[roman]

Pare entenderlo basta examinar un poco el código de la VCL:

Por un lado el método ShowModal, a grandes rasgos, es así:

Código Delphi [-]
...
Show;
...
ModalResult := 0;
repeat
  Application.HandleMessage;
  if Application.FTerminate then ModalResult := mrCancel else
    if ModalResult <> 0 then CloseModal;
until ModalResult <> 0;
...

Es decir, básicamente efectúa un ciclo que espera y procesa mensajes, y que no termina hasta que el valor de ModalResult sea distinto de cero.

El método Close por su parte, cuando se trata de una ventana modal, lo único que hace es poner el valor de ModalResult en mrCancel.

Por tanto, en un flujo normal, el uso de Close hace que el ciclo termine y se procede a cerrar la ventana (código que sigue al ciclo).

Ahora bien, en ShowModal, si te fijas en el código, antes de que comience el ciclo se llama al método Show. Es este método quien se encarga de llamar a tu evento OnShow, desde donde llamas a Close. Pero justo antes de comenzar el ciclo, ModalResult se inicializa a 0, de manera que poner ModelResult en mrCancel dentro de Close no tiene ningún efecto.

Moraleja: no llames a Close dentro de OnShow.

Lo lógico, al menos partiendo de lo que expones, es quitar la pregunta al usuario del formulario modal. Pregunta antes de crear el formulario, y sólo si su respuesta es afirmativa, creas y muestras el formulario:

Código Delphi [-]
with TfrmGestioUsuarios.Create(nil) do
begin
  if MessageBox(...) = IDOK then
    with TfrmGestioUsuaris.Create(nil) do
    begin
      ShowModal;
      Free;
    end;
end;

// Saludos