Hola,
Es un tema tratado en más de una ocasión. Y hay varias formas de hacerlo.
En este hilo, por ejemplo, se usa el tipo "TSHFileOpStruct" para borrar archivos.
En este otro hilo, encontrarás una clase "TFindFiles" que acaso puedas usar o sirva para darte alguna idea. Y si
buscas en los foros encontrarás más, estoy seguro.
También tienes el truco
"Buscar archivos con TSearchRec". Por otro lado, estoy seguro de que encontrarás varios componentes que te echen una mano, empero, si tuviera que quedarme con uno, creo que lo haría con
TFindFile de DelphiArea. En fin. Espero que por ahí puedas empezar.