Hola javave.
Podés asignar esto al evento OnExit del TEdit:
Código Delphi
[-]
procedure TForm1.ValorExit(Sender: TObject);
var
Value: Integer;
begin
if not TryStrToInt(Valor.Text, Value) then
begin
ShowMessage('No ingresó un número');
Valor.SetFocus;
end;
end;
O directamente evitar que lo ingrese, asignando esto al evento OnKeyPress del TEdit:
Código Delphi
[-]
procedure TForm1.ValorKeyPress(Sender: TObject; var Key: Char);
begin
if not (Key in [#8,#13,'0'..'9']) then begin
Beep;
Key:= #0;
end;
end;
Hay otras opciones, pero creo que estas son simples y te funcionaran bién.
Saludos.