Simplemente le indicas de que unit la tome, por defecto la toma por el orden de definción en la cláusula uses:
Código Delphi
[-]
Windows.DeleteFile('C:\FEDE.BAK')
PD: La función DeleteFile de Delphi no hace mas que llamar a la api, y en el caso que utilizes CLX te olvidas de con que sistema operativo estas trabajando.
Saludos!