Copiar parte de un TStringList a otro

[Anel Hernandez]

hola,

de que tamaño desean el fichero? cuantas lineas?

gracias
Anel

[[nlsgarcia]]

Anel Hernandez,

Empezado por Anel Hernandez

...¿De que tamaño desean el fichero?, ¿Cuantas líneas?...

Te comento:

1- En principio sería suficiente un archivo con las primeras 100 líneas, la idea es poder crear uno con una estructura similar a efectos de prueba.

2- ¿Cual es el mayor y menor tamaño registrado para un archivo meteorológico?, ¿Cual es el tamaño promedio?.

3- Si como se indica en el Msg #3 trabajas con archivos de texto con tamaños en el orden de los GB y decenas de miles de registros, es conveniente analizar formas alternas de manejo de la data, por ejemplo por medio de una BD, ¿Podrías explicar un poco el proceso de generación, carga y procesamiento de la información meteorológica en cuestión?.

En resumen : No es conveniente manejar tal cantidad de datos en memoria, el problema no son los TStringList es el volumen de la data.

Espero sea útil

Nelson.

[Anel Hernandez]

hola,

normalmente los modelos de pronostico meteorologicos trabajan con ficheros .nc (netcdf). estos pueden llegar a tener varios GB.

hay otros modelos que se alimentan de estos ficheros, modelos de diagnostico meteorologicos, de dispersion atmosferica, fotoquimicos, etc.

algunos de ellos tienen herramientas para transformar los ficheros .nc en binarios o de texto. yo estoy trabajando con uno que los usa de texto.

son modelos establecidos hace decadas y lo que hago es aplicarlos. no tendria mucho sentido transformar en BBDD. la alternativa que he elegido es intentar optimizar los procesos de conversion etc.

ahora un ejemplo simple:
en mi caso tengo 66 ficheros de 1.46MB con 31882 lineas cada uno. Debo entonces copiar de los ficheros del 2 al 66, desde la linea 1257 de cada uno hasta la ultima (la 31882) y añadirselos al final del 1ro.

Al final tendria un fichero de 101MB y 2 022 507 lineas. ese es un ejemplo simple. pueden ser mas grandes.
Adjunto un fichero editado de ejemplo donde suprimo algunas lineas.

He intentado con el metodo del BeginUpdate y gana pocos segundos. adjunto imagenes.

En mi caso leo con:

Código Delphi [-]
SL1.LoadFromFile(fichero1);
For I:=2 to 66 do
 SL2.LoadFromFile(fichero[i]);
end;

y salvo al final en el mismo fichero1

Código Delphi [-]
SL1.SaveToFile(fichero1);

Gracias
Anel

[[Héctor Randolph]]

Hola Anel Hernandez

Adicionalmente al uso de BeginUpdate-EndUpdate, también es recomendable fijar la propiedad Sorted a False.

Por otra parte, cuando agregas elementos a una lista dentro de un ciclo, la lista tendrá que ajustar dinámicamente el tamaño de la memoria reservada conforme se requiera. Sin darnos cuenta, esta operación puede repetirse un número considerable de veces y eso afectará el rendimiento.

Por este motivo, es muy aconsejable que puedas determinar con anticipación el número de elementos que vas a añadir y esto se puede indicar en la propiedad Capacity.

De esta forma reservamos la memoria en una sola operación antes de entrar al ciclo.

Código Delphi [-]
var
  ItemsToAdd: Integer;
  I: Integer;
begin
   ItemsToAdd:=100000; 
   .
   .
   .
   SL.Sorted:=False;
   SL.Capacity := SL.Count + ItemsToAdd;
   for I := 1 to ItemsToAdd do
    SL.Add('Algo');

Saludos

[ecfisa]

Hola Anel Hernandez.

Tomando en cuenta del formato del archivo que enviaste, proba de este modo:

Código Delphi [-]
procedure AddLinesToFile(const pFrom, pTo: Integer; const fSource, fTarget: string);
const
  CRLF = #$D#$A;
var
  fs: TStream;
  ts: TStrings;
  s : string;
  i : Integer;
begin
  fs := TFileStream.Create(fTarget, fmOpenReadWrite);
  try
    SetString(s, nil, fs.Size);
    fs.Read(s[1], fs.Size);
    s := s + CRLF;
    ts := TstringList.Create;
    try
      ts.BeginUpdate;
      try
        ts.LoadFromFile(fSource);
      finally
        ts.EndUpdate;
      end;
      for i:= pFrom to pTo do s := s + ts[i] + CRLF;
    finally
      ts.Free;
    end;
  finally
    fs.Position:= 0;
    fs.Write(s[1], Length(s));
    fs.Free;
  end;
end;

Código de prueba:

Código Delphi [-]
procedure TForm1.btnAddClick(Sender: TObject);
const
  MILLION = 1000000;
var
  Hz, Start, Stop: Int64;
begin
  QueryPerformanceFrequency(Hz);
  QueryPerformanceCounter(Start);

  // Añade las líneas 1257-3188 desde WRF02.DAT hacia WRF01.DAT
  AddLinesToFile(1257, 31882, 'c:\tmp\WRF02.DAT', 'c:\tmp\WRF01.DAT');

  QueryPerformanceCounter(Stop);
  ShowMessage(Format('%d µs.',[(Stop-Start) * MILLION div Hz]));
end;

Creo que demora un tiempo muy aceptable,



Saludos

Edito: Lo olvidaba ... - Tamaño de WRF01.DAT: 1,55 MB y WRF02.DAT: 12,3 MB

[Anel Hernandez]

hola ecfisa,

el ejemplo de tiempo que pones es para 2 ficheros? yo tengo que adicionar 65!!!!

de todas maneras pruebo.

gracias
A

[ecfisa]

Hola Anel Hernandez.

El penúltimo parámetro del procedimiento recibe el nombre del archivo del cuál se extraerán las líneas a ser agregadas. Basta con que envíes los nombres de los archivos a ser tratados de forma secuencial en él (65 o los que gustes).

Las líneas extraídas de los N archivos serán añadidas al archivo correspondiente al parámetro fTarget.

Saludos

[Casimiro Notevi]

Esto me recuerda a:

Empezado por Ley de Brooks

"Una señora es capaz de tener un hijo en nueve meses, pero este plazo no puede disminuir por muchas mujeres embarazadas que pongamos a ello"