Que estoy haciendo mal en este proceso?

[ecfisa]

Hola kdemia.

Si tenés en mente utilizar un archivo con tipo no veo otra posibilidad que declarar la matríz lo suficientemente grande para contener el caso mayor.
Los archivos con tipo, como bién dice su nombre trabajan con un tipo determinado (record, char, array, etc). Los datos se guardan en un registro dentro de un archivo congruentemente a su formato en memoria.
El tamaño de estos debe ser fijo ya que se accede a ellos mediante un índice que referencia al registro directamente a su posicion en el archivo ( de allí su denominación 'acceso directo o aleatorio' ).
Si cada registro tuviera un tamaño indeterminado, el solapamiento de datos sería inevitable.

Una cosa que podrías probar, es utilizar un TClientDataSet en memoria para guardar el arreglo celda a celda. Sólo tendrías un retardo en la carga de los datos al iniciarse la aplicación, luego residirían en memoria.
O quizá, replantear la forma de representar los píxeles, pero bueno para opinar sobre eso tendríamos que ver un poco mas...

Un saludo.