Hola,
En
esta página Web tienes la información que precisas. Se trata de crear un editor de la propiedad de tipo "TFileName" para tu componente. Yo acabo de implementarlo con éxito en un componente que traigo entre manos. Si tienes alguna duda no la tengas en consultarla aquí mismo.
Nota: Todo el contenido de la página Web que enlazo arriba interesa, pero, fíjate particularmente en el texto bajo el epígrafe "TFileNameProperty".