Para dibujar un rectángulo sin fondo simplemente tienes que poner la propiedad Stryle del Brush a bsClear. Es decir:
Código Delphi
[-]
Canvas.Brush.Style:= bsClear;
Canvas.Rectangle(0,0,100,100);
Pero lo de "algo de transparencia" ya es mas complicado. No conozco ninguna función de dibujo que nos permita hacer lo que tu quieres directamente (tal vez con gdi+), así que nos tocaría crear el efecto nosotros. Me parece algo bastante complicado, solo para seleccionar.
Por que no pruebas con esto otro, ni siquiera tienes que cambiar las propiedades del canvas:
Código Delphi
[-]
Canvas.DrawFocusRect(Rect(0,0,100,100));