Hola,
depende de la versión de InterBase/Firebird que estés utilizando. InterBase (al menos las versiones 6.x y anteriores) y Firebird 1.0.x no lo soportan (columnas con restricción UNIQUE deben ser también NOT NULL).
Firebird 1.5 sí soporta columnas UNIQUE con posibilidad de valores nulos.
Una posible solución (si no puedes migrar a Firebird 1.5) es el uso de triggers (BEFORE <acción>). En el trigger compruebas, con una SELECT COUNT(<campo>) ... WHERE <campo> = <NEW.campo>, si ya existe el valor (la SELECT anterior debe dar un valor mayor que cero); evidentemente sólo es necesaria la comprobación en el caso que no estés introducciendo o actualizando un valor NULL. En caso de que ya exista el valor, lanzas una excepción.
Saludos.