No entiendo bien el motivo de cerrar cuando está abriendo, pero en fin... ¿por qué no lo pones invisible, hide, y luego lo pones a nil desde donde lo has llamado.
Código:
procedure TfrmBackRestAux.FormClose(Sender: TObject; var Action: TCloseAction);
begin
inherited;
Action := caHide;
end;
Código:
frmAux := TfrmBackRestAux.Create(owner);
frmAux.ShowModal;
// frmAux.Free;
FreeAndNil(frmAux);
Creo que te puede servir algo así.