FTP | CCD | Buscar | Trucos | Trabajo | Foros |
|
Registrarse | FAQ | Miembros | Calendario | Guía de estilo | Temas de Hoy |
|
Herramientas | Buscar en Tema | Desplegado |
#1
|
||||
|
||||
error calculo en udf
buenas foreros... bueno señores mi cuestion es la siguiente:
tengo un disparador en una tabla que me genera unos datos en otra dependiendo de los valores que inserten en la primera hace poco instale las udfs que vienen con la instalcion de firebird 1.5 dado que necesitaba la raiz cuadrada pero me acabo de dar cuenta que esta funcion no tiene la precision que estoy necesitando por manejo valores con varios decimales y estos decimales se convierten en dinero despues asi que no me puedo dar el lujo de que pase... les explico utilizo el ibadmin 4 para depurar el disparador tengo la siguiente operacion: donde: ca=float valor tipo new.lev_pesoe = 2050 decimal(15,2) ipini= 58 float el resultado es: ca=1,87882947921753 pero si prueban con cualquier calculadora veran que el resultado es: ca=1,8800220101426178928490507219495 pregunta tengo algo mal el que el tipo de datos puede influir en el resultado o por favor donde puedo conseguir una udf que sea mas precisa de antemano mucha gracias por la ayuda que me puedan brindar
__________________
re-contra-newbie |
|
|
|