[Neftali [Germán.Estévez]]

Empezado por Ricardo León

...Al utilizar la función FreeLibrary se debe primero hacer el cargue de la dll para obtener su identificador (por decirlo asi) con la función LoadLibrary('dllhost.exe')

Más que "cargar" la librería (con LoadLibrary, que la carga en memoria) debes obtener su identificador, como ya te han dicho.
Si dec me permite una pequeña modificación:

Código Delphi [-]
 var
 hDLL: THandle;
 begin
   ...
    // acceder al handle de la librería
   hDLL := GetModuleHandle(aName);
   // la ha encontrado?
   if (hDLL <> 0) then
       FreeLibrary(GetModuleHandle(PChar(FileName)));
    ...

Simplemente para no hacer el GetModuleHandle dos veces.