¿Que base de datos estás usando? (Por lo que comentas, más bien parecen archivos temporales que crea el motor a la hora de trabajar y si estás trabajando en red con más ordenadores atacando la misma base de datos puede que sea por eso que no se eliminen al cerrar la aplicación, o también puede que esté equivocado

)
Saludos!