Out Of Memory

[Cesargt]

Respecto al comentario de dividir el archivo, estoy de acuerdo seria lo mas fácil pero no es la solución.

A manera de comentario, he seguido leyendo y algunos comentan que puede deberse al ADOQuery que uso para insertar lo registros procesados que tuvieron alguna alteración.

Ahora bien, pensaran por que no cargar la tabla a SQLServer y después se procesa!!!! pues bien, dado que la tabla tiene mas de 3 Mdr de registros el hacer el Select * from dbo.tabla me implica que tarda bastante en seleccionar los registros y después procesar, no omito aclarar que esto tambien me marca OUT OF MEMORY procesando menos de 1MdR.

MMmm se me ocurre una solución pero la voy a dejar como ultima alternativa.

[juanelo]

Empezado por Cesargt

Respecto al comentario de dividir el archivo, estoy de acuerdo seria lo mas fácil pero no es la solución.

Disculpa la ignorancia, pero ¿porque no sería una solucion?
Si realizas correctamente el procedimiento, por ejemplo parametrizando el numero de registros procesados por vez, te puede resultar para cualquier tamaño de archivo. Recuerda tambien que el procesar demasiadas operaciones en una sola transaccion es altamente ineficiente.

[Cesargt]

En realidad si seria una solución, pero no trabajando directamente el archivo CVS delimitado por PIPE, por que no tengo idea de como decirle que tome de X cantidad en X cantidad, pero si se puede desde SQLSERVER indicando que tome de Y registro a Y registro hasta terminar con todos los registros.

Pero si me diste la idea.

[[AgustinOrtu]]

Tenes un doble while not eof anidados. No estaras procesando algo de mas?

No es necesario que abras el archivo entero en memoria. Podes leer de a una linea (busca sobre ReadLn)

1. Preparas el archivo para solo lectura.
2. Creas un ADOQuery, asignas la sentencia SQL y la dejas Prepared := True
2. Mientras no sea fin archivo, tomar una linea
3. Procesar linea, setear parametros ADOQuery, llamar a ADOQuery.ExecSQL
4. Vuelve a 2, cuando sea Eof := True, fin del proceso

Eso no puede gastar casi nada de memoria

El problema esta en otro lado, ademas de ese doble while anidado que no me gusta para nada (aun asi no te podria dar out of memory aunque fueran trillones de lineas, porque siempre procesas de a 1)

Yo creo que tu problema esta en el "se hacen operaciones con con los valores". Depura el codigo y busca memory leaks.

Añade la linea

Código Delphi [-]
ReportMemoryLeaksOnShutDown := True

Ejecuta tu proceso, y luego del Out of Memory, cierra la aplicacion e investiga donde estan las fugas de memoria

[[fjcg02]]

Hola,
todo apunta a que la iteración del fichero no la haces bien, como apunta AgustinOrtu.

Revisa esto lo primero.

Por otro lado, podría darse el caso ( después de corregir la iteración del fichero ) , que tengas que hacer cada x registros un commit. Esto lo sabrás cuando hagas bien la iteración.

Saludos

[Neftali [Germán.Estévez]]

Independientemente de que puedas continuar con esta solución, tal vez puedas revisar otras alternativas.

Como alternativa, se me ocurre que pruebes a realizar la importación directamente desde SQL Server. Revisa los DTS. La idea sería algo así, por ejemplo . Eesto variará dependiendo de la versión de SQL Server.

En cuanto al proceso actual, yo también creo que tal vez deberías dividir el fichero. Pero no en la generación, sinó realizar un prepoceso del CSV para dividirlo por partes.

[Cesargt]

Gracias por sus comentarios.

Voy a revisar todo lo que indicaron para ver si se resuelve el problema de OUT OF MEMORY de lo contrario pues intentare la otra alternativa de seleccionar x cantidad en x cantidad.

Muchas gracias a todos.