[rgstuamigo]

Hola Ðαяισš veo que estas muy interesado en hacer tu tarea, eso es buenode a poco uno va aprendiendo.
Sobre tu asunto fijate es solo hacerte una Function que reste numeros hexadecimales, yo te recomendaria usar un poco de assembrer que ya tiene todo en bandeja(Listo).

tambien necesito que el TEdit1.Text Solo admita numeros Hexadecimales
0-1-2-3-4-5-6-7-8-9-A-B-C-D-E-F
si tiene algun otro valor que no sea hexadecimal que un mensaje salga diciendo "un valor es incorrecto, Solo se permiten numeros hexadecimales"

Tambien que el mismo TEdit solo admita Mayusculas.. y si se llegan a escribir letras en minuscula inmediatamente los ponga en mayuscula

Puedes hacer esto en el evento OnKeyPress del Edit:

Código Delphi [-]
procedure TForm1.Edit1KeyPress(Sender: TObject; var Key: Char);
begin
  if  not(Key in Hexa) then
     begin
       Beep;   //aqui sale un pitido por que el dato es incorrecto
       Key:=#0; //aqui pone el dato en null es decir lo anula
     end
  else
    if Key in minusculas then
      UpCase(Key);   //aqui te convierte a mayusculas en el caso de ser minuscula
end;

Espero que te sirva , tambien podrias poner la propiedad CharCase de Edit en ecUpperCase para que sea un edit de solo mayusculas claro que se veria afectado por este evento que te estoy posteando.
Saludos....