Hola.
Mira este truco de Marteens.
http://www.marteens.com/trick42.htm
Si liberas correctamente los TQuery y aún así no recuperas la memória, probablemente es el mismo Windows el que no es capaz de recuperarla. Esta llamada al API fuerza a la recuperación de la memória liberada.
Programa un llamada a la función tras liberar los TQuery.
El tamaño de la Base de Datos y que no esté indexada es un problema de que te va a consumir más memória y tardar mucho más en ejecutarse la consulta en el proceso del servidor de Interbase. Pero no tiene nada que ver con la memória que consuma tu programa Delphi.
En principio un TQuery que hayas creado en tiempo de diseño, no hay que liberarlo con un .Free, puesto que cuando liberes el formulario al que pertenece (con un .Release) se ejecutará un .Free sobre todos sus componentes que liberará la memória asignada al TQuery.
Otra cosa es un TQuery que hayas creado en tiempo de ejecución (es decir por código), en cuyo caso o lo liberas manualmente con un .Free, o le asignas su propiedad Owner al formulario para que se ocupe el formulario de liberarlo.
Saludos.