Hola.
Si no te entiendo mál, podrías situar "Elija una provincia" en la primera posición del ComboBox, algo como:
Código Delphi
[-]
...
ComboBox1.Clear;
ComboBox1.Items.Add('Elija una provincia');
while not DataSet.Eof do
begin
ComboBox1.Items.Add(DataSet.FieldByName('PROVINCIA').AsString);
DataSet.Next;
end;
ComboBox1.ItemIndex:= 0;
...
y luego despreciar ese índice si es seleccionado:
Código Delphi
[-]
procedure TForm1.ComboBox1Click(Sender: TObject);
begin
if ComboBox1.ItemIndex > 0 then
begin
...
end;
Saludos.
Edito: Y ahora que veo, tál como dijo roman... (ando algo lento con el teclado



)