El Límite de ventanas modales creadas es:
Código Delphi
[-]
TModalResult = Low(Integer) .. High(Integer);
ya que internamente se usa un integer para incrementar el nivel de ventanas modales.
O sea, que tienes desde :-2147483648 hasta 2147483647
Saludos