Hola,
Hum... En el archivo de configuración tú escribes:
Código:
extension=php_gmp.dll
extension_dir = ".\ext"
Pero, ¿te aseguraste de que dicha "DLL" está en el directorio en cuestión? ¿Podrías comprobar que efectivamente otras extensiones que se encuentran en el mismo directorio están siendo usadas sin problemas?