Club Delphi  
    FTP   CCD     Buscar   Trucos   Trabajo   Foros

Retroceder   Foros Club Delphi > Bases de datos > Firebird e Interbase
Registrarse FAQ Miembros Calendario Guía de estilo Temas de Hoy

Respuesta
 
Herramientas Buscar en Tema Desplegado
  #1  
Antiguo 02-11-2004
Avatar de marrullas
marrullas marrullas is offline
Miembro
 
Registrado: abr 2004
Posts: 18
Poder: 0
marrullas Va por buen camino
error calculo en udf

buenas foreros... bueno señores mi cuestion es la siguiente:

tengo un disparador en una tabla que me genera unos datos en otra dependiendo de los valores que inserten en la primera hace poco instale las udfs que vienen con la instalcion de firebird 1.5 dado que necesitaba la raiz cuadrada pero me acabo de dar cuenta que esta funcion no tiene la precision que estoy necesitando por manejo valores con varios decimales y estos decimales se convierten en dinero despues asi que no me puedo dar el lujo de que pase... les explico
utilizo el ibadmin 4 para depurar el disparador

tengo la siguiente operacion:
Código SQL [-]
 ca=sqrt(new.LEV_PESOE/(10*:ipini));
donde:

ca=float
valor tipo

new.lev_pesoe = 2050 decimal(15,2)
ipini= 58 float

el resultado es: ca=1,87882947921753

pero si prueban con cualquier calculadora veran que el resultado es:

ca=1,8800220101426178928490507219495

pregunta tengo algo mal el que el tipo de datos puede influir en el resultado

o por favor donde puedo conseguir una udf que sea mas precisa

de antemano mucha gracias por la ayuda que me puedan brindar
__________________
re-contra-newbie
Responder Con Cita
Respuesta



Normas de Publicación
no Puedes crear nuevos temas
no Puedes responder a temas
no Puedes adjuntar archivos
no Puedes editar tus mensajes

El código vB está habilitado
Las caritas están habilitado
Código [IMG] está habilitado
Código HTML está deshabilitado
Saltar a Foro


La franja horaria es GMT +2. Ahora son las 20:48:00.


Powered by vBulletin® Version 3.6.8
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Traducción al castellano por el equipo de moderadores del Club Delphi
Copyright 1996-2007 Club Delphi