Hola,
No sé si será posible hacer lo que quieres sencillamente heredando de TOpenDialog. Ciertos componentes que he usado alguna vez que, digamos, ampliaban las capacidades de un diálogo estándar de Windows para abrir y/o guardar archivos lo que hacían era implementar dicha funcionalidad en un formulario "aparte".
O sea, utilizan un formulario en donde recrean y amplian las capacidades de los diálogos estándar para abrir y/o guardar archivos que encontramos a nuestra disposición en Delphi: no heredan de TOpenDialog.
Un ejemplo de componentes que cuenta con diálogos "no estándar" a que me refiero podrían ser los "
Raize Components": si hechas un vistazo a los mismos, aunque sea la versión "Trial" conque cuentas, seguramente puedas hacerte idea de lo que estoy tratando de decir.
Por otro lado, tal vez esté equivocado y alguien pueda hacérmelo ver, lo cual sería estupendo para ti y no menos para mí.