falla en división

[mamaro]

Hola, utilizo Firebird 1.5 y tengo un problema, cuando ejecuto la consulta:

Select
...,
entrada_det.cantidad,
(entrada_det.total/entrada_det.cantidad) as precio,
entrada_det.total,
...
from
entrada_det inner ...


me da un resultado erróneo:
...=...
cantidad = 100
precio = 0,004 (!! !!)
total = 41.682

...
lo hice con un procedimiento almacenado (calculando el precio posteriormente) y funciona perfecto
... si alguien me puede tirar una pista de que puede estar pasando se los agradesco.

[ContraVeneno]

¿como que tipo de dato estan definidos tus campos?

[mamaro]

cantidad es de tipo Numeric(10,3)
y total numeric(10,2)

[mamaro]

me olvidé aclarar que mi firebird es una version 1.5 Classic sobre Red Hat 9.

[Casimiro Notevi]

Serán otros los valores, seguro que no es fallo de la división.

[[Ivanzinho]]

Eso me pasó a mi y lo comenté aqui. Esto lo soluciono aplicando una función al valor, normalmente unas UDF´s creadas por mi que son una para redondear un valor a un numero de decimales, ambos pasados como parametro, y otra para truncar valores. No se si es una forma muy ortodoxa, pero fué la única solución que encontre y por ahora me funciona perfectamente.

[lbuelvas]

Hola foro,

pues me puse en la tarea de reconstruir el caso

Código SQL [-]
CREATE TABLE XXX (
    ID        INTEGER NOT NULL,
    CANTIDAD  NUMERIC(10,2) NOT NULL,
    TOTAL     NUMERIC(10,3) NOT NULL
);

ALTER TABLE XXX ADD CONSTRAINT PK_XXX PRIMARY KEY (ID);

INSERT INTO XXX (ID, CANTIDAD, TOTAL) VALUES (1, 100, 41.682);

y corri la consulta

Código SQL [-]
Select
cantidad,
(total/cantidad) as precio,
total
from xxx

y el resultado fue:

CANTIDAD PRECIO TOTAL
100 0.41682 41.682

Casimiro Notevi debe tener razon, otros son tus datos o el valor almacenado en cantidad es diferente.

Otra cosa que observe, es que una division tiene en la parte decimal del resultado la suma de los numeros de posiciones decimales de los operandos.

En tu caso deberian aparecer en la parte decimal 5 digitos.

[mamaro]

Voy a tratar de repetir la falla y se las envío, actualmente no la tengo a mano porque sustituí el código por uno que andubiera y listo.

aaaa.... antes de alterar el código probé en otro equipo (Windows con motor Firebird SS 2.0), y la falla no se dió (con la misma base).

Gracias de nuevo por e interés que han demostrado, les envío los datos a la brevedad.

[[Ivanzinho]]

¿Habeis probado ejecutando la consulta con el execute statement? En mi caso solo daba problemas en las consulta dinamicas que se ejecutaban con la intrucción anterior.

[mamaro]

Después que me dió ese error (y me dí cuenta dónde estaba fallando) mudé la consulta a un procedimiento almacenado y quedó solucionado.
Pero atención, no hice el cálculo dentro de la consulta ..

Select ....
(total/cantidad) as precio,
...

sino que lo hice ..

For Select
total,
cantidad,
(sin el precio)
...
into ... :LTOTAL, :LCANTIDAD
do
begin
LPRECIO=:LTOTAL/:LCANTIDAD;
suspend;
end

... por supuesto que LPRECIO está dentro de los parámetros que se retornan.

Bueno saludos a todos.

[Casimiro Notevi]

Empezado por mamaro

Después que me dió ese error (y me dí cuenta dónde estaba fallando) mudé la consulta a un procedimiento almacenado y quedó solucionado.
Pero atención, no hice el cálculo dentro de la consulta ..

Select ....
(total/cantidad) as precio,
...

sino que lo hice ..

For Select
total,
cantidad,
(sin el precio)
...
into ... :LTOTAL, :LCANTIDAD
do
begin
LPRECIO=:LTOTAL/:LCANTIDAD;
suspend;
end

... por supuesto que LPRECIO está dentro de los parámetros que se retornan.

Bueno saludos a todos.

Tampoco tiene que fallar, seguramente es que has puesto tipos integer.

[rastafarey]

tengan cuidado cuando trbajan con numeric que se vana a encontar con unos resultados que los van a volver completamente loco. En este foro hay una refencia hacia un link de como se comporta firebird con los numericos traten de leerlas antes de trabajar con es tipo de datos.

Esto lo he dicho varias veces en el foro.