falla en división

[mamaro]

cantidad es de tipo Numeric(10,3)
y total numeric(10,2)

[mamaro]

me olvidé aclarar que mi firebird es una version 1.5 Classic sobre Red Hat 9.

[Casimiro Noteví]

Serán otros los valores, seguro que no es fallo de la división.

[[Ivanzinho]]

Eso me pasó a mi y lo comenté aqui. Esto lo soluciono aplicando una función al valor, normalmente unas UDF´s creadas por mi que son una para redondear un valor a un numero de decimales, ambos pasados como parametro, y otra para truncar valores. No se si es una forma muy ortodoxa, pero fué la única solución que encontre y por ahora me funciona perfectamente.

[lbuelvas]

Hola foro,

pues me puse en la tarea de reconstruir el caso

Código SQL [-]
CREATE TABLE XXX (
    ID        INTEGER NOT NULL,
    CANTIDAD  NUMERIC(10,2) NOT NULL,
    TOTAL     NUMERIC(10,3) NOT NULL
);

ALTER TABLE XXX ADD CONSTRAINT PK_XXX PRIMARY KEY (ID);

INSERT INTO XXX (ID, CANTIDAD, TOTAL) VALUES (1, 100, 41.682);

y corri la consulta

Código SQL [-]
Select
cantidad,
(total/cantidad) as precio,
total
from xxx

y el resultado fue:

CANTIDAD PRECIO TOTAL
100 0.41682 41.682

Casimiro Notevi debe tener razon, otros son tus datos o el valor almacenado en cantidad es diferente.

Otra cosa que observe, es que una division tiene en la parte decimal del resultado la suma de los numeros de posiciones decimales de los operandos.

En tu caso deberian aparecer en la parte decimal 5 digitos.

[mamaro]

Voy a tratar de repetir la falla y se las envío, actualmente no la tengo a mano porque sustituí el código por uno que andubiera y listo.

aaaa.... antes de alterar el código probé en otro equipo (Windows con motor Firebird SS 2.0), y la falla no se dió (con la misma base).

Gracias de nuevo por e interés que han demostrado, les envío los datos a la brevedad.

[[Ivanzinho]]

¿Habeis probado ejecutando la consulta con el execute statement? En mi caso solo daba problemas en las consulta dinamicas que se ejecutaban con la intrucción anterior.