Out Of Memory

[Cesargt]

Tengo un problema enorme. con CSV y Delphi.
Necesito cargar a SQLServer un archivo CSV delimitado por | (pipe) el cual tiene mas de 3 millones de registros con 20 campos, al llegar a 2,500,000 se para indicando "OUT OF MEMORY", leyendo algunos comentan que por que esto se debe al limite de los archivo de texto que no pueden tener mas de "X" cantidad de filas, la verdad ya no se cual es el problema, si el tamaño del archivo txt o al insertar los datos.


Se preguntaran por que no cargo directo???, antes de insertar tengo que procesar la información y después insertar, razón pro la cual no puede ser directo, he leído que el problema se puede resolver usando FileStream, pero no tengo idea de como implementarlo.

Alguien tiene idea de como resuelvo mi problema y cual es el problema.

El archivo lo estoy leyendo con un
f: textfile;

Código Delphi [-]
Procedure ......
.
.
.

  assignfile(f, 'c:\list\p1.txt');
  reset(f);
  Size := FileSize(f);

  sgItem := TStringList.Create;
  StringGrid1.RowCount := 2;

  while not eof(f) do
  begin
     assignfile(f, 'c:\list\p1.txt');
     reset(f);
     Size := FileSize(f);

     while not eof(f) do
     begin
        readln(f, temp);
        CsvNombre := copy(temp, 1, pos('|', temp) - 1);
        delete(temp, 1, pos('|', temp));
        CsvSexo:= copy(temp, 1, pos('|', temp) - 1);
        delete(temp, 1, pos('|', temp));

           ...
             // se hacen operaciones con los valores para despues insertarlos
           ...
           with ADOQuery2 do
           begin
              SQL.Clear;
              xSQL:=' insert into dbo.datos (NOMBRES,SEXO)';
              xSQL:=xSQL+' VALUES ('''+xc1+''','''+xc2+''')';
              Memo1.Text:=xSQL;
              Memo1.Refresh;
              SQL.Add(xSQL);
              ExecSQL;
           end;
      End;
   End;
..
.
.

End;

[juanelo]

¿Porque no procesas el archivo por partes ?
Divide y vencerás.

[[AgustinOrtu]]

Proba con un TStrings.

Por ejemplo, la clase TStringList te provee el metodo LoadFromFile y luego vas recorriendo la propiedad Items que representa una lista de strings

Despues, dado que tu archivo viene separado por un caracter especial, deberias investigar sobre DelimiterChar y DelimitedText

Revisa este enlace y este otro

[Cesargt]

Respecto al comentario de dividir el archivo, estoy de acuerdo seria lo mas fácil pero no es la solución.

A manera de comentario, he seguido leyendo y algunos comentan que puede deberse al ADOQuery que uso para insertar lo registros procesados que tuvieron alguna alteración.

Ahora bien, pensaran por que no cargar la tabla a SQLServer y después se procesa!!!! pues bien, dado que la tabla tiene mas de 3 Mdr de registros el hacer el Select * from dbo.tabla me implica que tarda bastante en seleccionar los registros y después procesar, no omito aclarar que esto tambien me marca OUT OF MEMORY procesando menos de 1MdR.

MMmm se me ocurre una solución pero la voy a dejar como ultima alternativa.

[juanelo]

Empezado por Cesargt

Respecto al comentario de dividir el archivo, estoy de acuerdo seria lo mas fácil pero no es la solución.

Disculpa la ignorancia, pero ¿porque no sería una solucion?
Si realizas correctamente el procedimiento, por ejemplo parametrizando el numero de registros procesados por vez, te puede resultar para cualquier tamaño de archivo. Recuerda tambien que el procesar demasiadas operaciones en una sola transaccion es altamente ineficiente.

[Cesargt]

En realidad si seria una solución, pero no trabajando directamente el archivo CVS delimitado por PIPE, por que no tengo idea de como decirle que tome de X cantidad en X cantidad, pero si se puede desde SQLSERVER indicando que tome de Y registro a Y registro hasta terminar con todos los registros.

Pero si me diste la idea.