Hola.
Es bueno especificar que versión de delphi usas.
Yo realicé una prueba con tu código en Delphi xe y lo primero es que no vi el error que comentas, pero lo primero que te puedo sugerir es que agregues la función a ejecutar desde fuera de la dll en una sección exports.
Código Delphi
[-]
library sms;
uses
SysUtils,
Classes,
IdHTTP;
{$R *.res}
function enviarSMS (url,usuario,clave,phone,mensaje : string) : string;
var
http: TIdHttp;
params: TStrings;
respuesta: string;
begin
http := TIdHTTP.Create(nil);
params := TStringList.Create;
begin
params.Add('usuario='+usuario);
params.Add('clave='+clave);
params.Add('telefonos='+phone);
params.Add('texto='+mensaje);
respuesta := http.Post(url, params);
end;
params.Free;
http.Free;
end;
exports
enviarSMS;
end.