PDA

Ver la Versión Completa : Precision Decimal en Delphi


Edgtho
13-11-2006, 20:46:20
Buenas,

Me encuentro en un dilema, necesito tener la maxima precision decimal posible dentro de Delphi ya que estoy calculando la posicion GPS de un punto dado en un formato ECEF.

Para pasarlo a latitud / Longitud se tiene que realizar una serie de operaciones matematicas y necesito tener la maxima precision posible. He intentado con extended pero este me da solo 8 decimales, necesitaria unos cuantos mas.

¿Que tipo seria el mas adecuado para tener mas decimales? ¿Es eso posible en Delphi? llevo años programando en Delphi y nunca se me habia planteado esto. :confused:

Caral
13-11-2006, 20:54:41
Hola Edgtho
Es curioso porque el Extended llega hasta 20 digitos, el doble o el real llegan hasta 16 y el single hasta 8.
He trabajado con decimales y con el real para mi a sido suficiente me ha dado 16, la verdad no se por que sea, talvez este en otro lado el error.?
Saludos

Edgtho
17-11-2006, 16:50:10
En fin, gracias. El caso es que si yo vigilo el valor de la variable en el momento que se lo asigno se fulmina los decimales.