no se si funcionara, pero me parece que el tamaño del papel lo defines en design; haz una prueba....
en el codigo delphi, prueba a definirlo en runtime, es decir, antes de generar el reporter, tal como:
Código Delphi
[-]tufrxReport.PapeSize := custom (o lo que sea);
tufrxReport.PaperHeight := XXXXX;
tufrxReport.Paperwidth := XXXXX;
a lo mejor te tira....