problemas con float y redondeos

wonder boy · #1 22/12/2005

hola amigos

espero puedan sacarme de esta!!!

antes de empezar, uso FB1.5 y D7

tengo una tabla por donde pasan todos los importes de una empresa, hasta ahora venia todo muy bien, tenia un campo IMPORTE de tipo FLOAT, pero debido a una diferencia de un centavo, me di cuenta que los importes que me devuelve y que guarda Firebird son erroneos, por ejemplo, si yo a este campo le pongo el valor 151171.90, firebird me agrega 0.006, o seaque me queda 151171.906 y si hago un SQL de esto me lo toma como 151171.91, y es ahi donde tengo el problema, si los importes no son tan grandes no tengo problemas. espero haber sido claro en mi explicacion...

desde ya muchas gracias

OSKR · #2 23/12/2005

No he usado FireBird (en eso estoy), pero pudiera ser problema del IDE de la Borland q usas, yo he tenido esos mismos problemas con Builder (con los decimales especificamente) e incluso en la inicialización los decimales son distintos a los q le asigné y por otros medio de redondeo he solventado, lo mismo he probado con otros lenguajes en los cuales no ha habido este problema........¿Quién sabe porq?

wonder boy · #3 23/12/2005

es cierto, ademas no se si te has dado cuenta qe en algun calculo entre un double y un variant, debes pasarlo a string con formatfloat, porque sino te dice que son distintos numeros, a pesar que los dos son igual a 0.00 (eso es a simple vista en realidad muchas veces son igual a 0.00000343213232)

bueno, si alguien quiere decir algo mas estare agradecido, al menos para que me acompañene en mi penar, jajajajajaja

saludos

ASAPLTDA · #4 23/12/2005

revisa la configuracion del bde

wonder boy · #5 23/12/2005

la verdad que no se que tocar!!!, pero por las dudas aclaro que uso DBEXPRESS, si me dicen que tocar en la configuracion del BDE (que no se si servira para lo que yo uso) diganme y hare la prueba

estoy abierto a escuchar mas opiniones

muchas gracias

rastafarey · #6 26/12/2005

Lo unico que te puedo decir es que e ptoblema no es de firebird quisas seas los componentes ueq uses

jlcasih · #7 26/12/2005

Hola, mira creo te convendria definir el tipo de datos como un numeric(x,x) en vez de float para los montos para que puedas operar con mayor presicion. Yo he tenido muchos problemas con esto, lo que puedes hacer ya que no puedes cambiar lo hecho es redondear los valores cuando los obtienes, y en los store procedure castiarlos si operas en los mismos, acordate que tenes que tener en cuenta que sean del mismo tipo de dato. Espero te sirva. Saludos.

[Lepe] · #8 26/12/2005

Exacto jlcasih De hecho en las guías de Firebird/Interbase no se recomienda el uso de FLOATS para aplicaciones contables ni similares.

El hecho es que dos floats, aunque sean iguales, puede tener distinta cantidad de números despues de la coma decimal, de ahí que "aparezcan" decimales de sobra, aún cuando se intente decirle que solo tenga 2 decimales.

saludos

jhonny · #9 26/12/2005

Aca muestro un articulo con las conclusiones que marteens saca al respecto del campo numeric http://www.marteens.com/trick25.htm, espero sirvan de algo y que a ustedes les ayude a sacar sus propias coclusiones

rastafarey · #10 27/12/2005

No se pero hasta donde se estos valores simpre tendran una precision del maximo soportdo por la base de datos.

Ha y los componenetes que uso son los ibobjects.

Mick · #11 27/12/2005

Este tema es bastante recurrente en los foros, el problema no tiene que ver ni con firebird ni con los componentes, es una cuestion de como los computadores guardan la informacion con numeros en punto flotante: los ordenadores trabajan en formato binario (base 2) y numeros que tienen una representacion exacta en una determinada base (como por ejemplo base 10) no se pueden representar de forma exacta en otras (como base 2 que es como se guardan internamente los valores).

Aconsejo leer esta documentacion:

An Overview of Floating Point Numbers.

http://community.borland.com/article...,15855,00.html

En concreto la parte titulada:

"Round-Off Problems"

Saludos
Miguel

wonder boy · #12 27/12/2005

finalmente y para sacar una conclusion definitiva, habria que usar el tipo de datos decimal(n,m)??

gracias
por toda la info dedicada a este hilo

[Lepe] · #13 27/12/2005

No.

Me iba a quedar en esa palabra para que revisaras de nuevo la info dada... pero como no estamos en clase, y lo que se busca en un foro son respuestas, pues...

Decimal(10,m)
Numeric(10,m)

Da igual lo que eligas en escala, solo es para el número de decimales que quieras, 2, 3 o 6.

saludos

wonder boy · #14 27/12/2005

muchisimas gracias Lepe por tu respuesta, es la respuesta mas logica (cuando decis que deberia haber leido la info dada) y mas coherente (porque vas directo al grano)

muchas gracias de nuevo