En particiones FAT, si tienes un archivo con más de 8 caracteres, debes encerrar el nombre de archivo entre comillas dobles para que lo encuentre.
Código Delphi
[-] rphandle := rp_open(pchar('"c:\prueba\Reportes\ReportePrueba.rep" '));
Si no lo haces, el sistema operativo no encontrará el archivo y por consiguiente el Handle que obtienes será cero (error).
En particiones NTFS, puedes pasar el archivo tal cual y el sistema operativo lo interpreta correctamente y lo abrirá bien.
Recuerda que en windows da igual las mayúsculas y minúsculas en carpetas y archivos pero en Linux no.
Saludos