Extraer decimales

[ecfisa]

Hola.

La diferencia infinitesimal (0.1001 y 0,0100999999999942) se produce por que el número no es expresable en una fracción binaria exácta. Pero en la práctica, se reduce a un problema de visualización, podrías hacer:

Código PHP:

AnsiString formatDbl(const double nro, const int ndec)
{
  AnsiString zeros = "0000000000000000000";
  if (ndec > zeros.Length())
   throw Exception("Numero de decimales muy grande");

  AnsiString res = "0." + zeros.SubString(0, ndec);
  return FormatFloat(res, nro-(int)nro);
} 


Ejemplo de uso:

Código PHP:

void __fastcall TForm1::Button1Click(TObject *Sender)
{
  double nro = 110.0100999999999942;
  AnsiString msg = formatDbl(nro, 4);

  ShowMessage(msg);
} 


Saludos

[Angel.Matilla]

Empezado por ecfisa

La diferencia infinitesimal (0.1001 y 0,0100999999999942) se produce por que el número no es expresable en una fracción binaria exácta.

Vale; como decía aquel anuncio de TV de España "aceptamos pulpo como animal de compañía". Lo que no entiendo es por qué si el valor original es 0,0101, al quitarle la parte entera lo convierte en 0,010099...

Empezado por ecfisa

Pero en la práctica, se reduce a un problema de visualización, podrías hacer:

No es tan sencillo ya que ese 0101 (ó 0302 ó 1009, etc.) son realmente unas coordenadas. Ahora bien, si me garantiza que con esa conversión saco el valor original...

[ecfisa]

Hola.

Es que es solo visualización, internamente los cálculos se realizarán como corresponde.

Por ejemplo, este tratamiento del resultado muestra la visualización correcta:

Código PHP:

// (como función por reusabilidad/legibilidad)
double frac(const double numero)
{
  return numero - static_cast<int>(numero);
}

//Ej.:
void __fastcall TForm1::Button1Click(TObject *Sender)
{ 
  AnsiString s;
  double nro = 110.0101;

  s.sprintf("%f", frac(nro));
  ShowMessage(s);
} 


Salida:


Si necesitas una mayor precisión podes usar el tipo long double o recurrir a una biblioteca de terceros especializada.

Saludos