Duda sobre encryptar contraseña
 

Bueno a la verdad soy nuevo en esto, mi squid encrypta a md5 a 64 encode, me orientaron cambiar al Digest que esta integrado al apache Debian6, yo estoy haciendo una aplicación web que ya funciona a este tipo de encryptación, ahora lo siguiente... como codifica este proceso de encryptación...

La palabra encryptar no existe, pero supongo que te refieres a codificar o a ofuscar.

md5 no codifica ni ofusca, sino que obtiene un resumen o firma. Es como la letra del carnet de identidad o del NIF. Lo que hace es realizar una serie de operaciones matemáticas con el valor numérico de cada octeto del mensaje hasta obtener un número, que es el resumen md5. El proceso es bastante complejo, pero se limita a multiplicar y sumar estos valores con otros a partir de una serie de tablas que indican el orden de las operaciones y añaden cierto peso a ciertas posiciones.