Todavía no tengo mucho tiempo para lo del dígito verificador pero aprovecho para comentar que en esta página
http://www.aplicarh.com/ pueden descargar una aplicación que calcula el RFC. Con esto pueden probar qué tal funciona su algoritmo.
// Saludos