Yo la utilicé hace unos años sin mayores inconvenientes, el único problema que había encontrado es que solo soportaba una compresión a la vez y yo necesitaba "n" simultáneas. La solución fue tener n archivos Lame_Enc001.dll, Lame_Enc002.dll...
Yo en tu lugar corroboraría que la interfaz que hayas creado corresponda a la versión de la DLL que utilizas, para eso fíjate en el header que te has bajado junto con la DLL. Si quieres y si encuentro, te puedo pasar las interfaces que yo he utilizado, con la versión de la DLL. (Ya debe ser algo obsoleta, fue hace por lo menos 3 años)
Saludos!