Hola,
Tienes que "doblar" el apóstrofo que utilizas en la cadena de búsqueda, para que se entienda no como el final de una cadena, sino como el propio apóstrofo. Algo así:
Código Delphi
[-]
function EliminarApostrofos(cadena: string) : string;
begin
Result := StringReplace(cadena, '''', '', [rfReplaceAll]);
end;