Efectivamente, las API que usaste para aislar los componentes de color, devuelven un Byte. C es muy estricto con los tipos, por lo que te avisa de una conversión no ortodoxa pero no es un error ya que TColor es en realidad un int. Debes hacer la conversión explicita a TColor para evitar el aviso. Es recomendable hacerlo así pues evitar posibles errores derivados de una mala conversión de tipos.
Prueba esto:
Código:
Byte Tono = (GetRValue(TheRGBValue)+GetGValue(TheRGBValue)+GetBValue(TheRGBValue))/3;
TColor WB = (TColor)RGB(Tono, Tono, Tono);
Imagen->Canvas->Pixels[k][l]=WB;
Saludos.
EDITO:
Por si no comprendiste porqué los tonos eran rojizos, la pega está en asumir el color como (GetRValue(TheRGBValue)+GetGValue(TheRGBValue)+GetBValue(TheRGBValue))/3; esto es un byte que al asimilarlo a color sólo tiene componente rojo. De aquí que debas hacer RGB(Tono, Tono, Tono);