FTP | CCD | Buscar | Trucos | Trabajo | Foros |
|
Registrarse | FAQ | Miembros | Calendario | Guía de estilo | Temas de Hoy |
|
Herramientas | Buscar en Tema | Desplegado |
#1
|
|||
|
|||
Insert masivo de datos, cada vez mas lento
Gracias anticipadas por su ayuda.
Estoy haciendo un insert masivo de datos en SQL 2008 los cuales lo obtengo de un archivo .txt, el caso es que recorro una carpeta con 80 archivos .txt podrían ser más o menos, lleno una variable con los datos del archivo y luego lo inserto en SQL y así sucesivamente, el problema está en que mientras más datos mando a insertar más lento se va haciendo el proceso del insert. Si inserto un .txt de 1kb solo dura unas cuantas milésimas de segundo, continuando inserto un .txt de 500kb y dura 30 segundos, continuando inserto un .txt de 1kb pero este en vez de durarme unos cuantos milésimas de segundo como el primero me dura varios segundo, es decir al momento de insertar en SQL cada vez se pone más lento. Espero haberme dado a entender, agradeceré cualquier colaboración. Gracias...
__________________
Al que no le gusta enseñar, no merece aprender... |
#2
|
||||
|
||||
Como lo haces? cual es el código con el que haces esto? desde donde lo haces? delphi, .Net, desde el mismo SQL, danos mas datos, así te podremos ayudar.
__________________
mas confundido que Garavito el día del Niño. |
#3
|
|||
|
|||
Gracias mightydragonlor por responder, lo hago con delphi 7, en una carpeta tengo un simnumero de archivos.txt que son las tablas a exportar, leo esta carpeta y recorro cada uno de esos archivos, "todo esto es muy rapido", dentro de estos archivos estan cada uno de los registros los cuales los cargo en una variable para luego insertarlo en la db.
--esta es la idea de como quedan
Imagina que tengo 10,000 registros en un archivo, pues el insert estara 10,000 veces y lo ejecuto todo junto en un solo comando como se ve en el codigo anterior. Gracias..
__________________
Al que no le gusta enseñar, no merece aprender... |
#4
|
||||
|
||||
Entiendo, y creo armas una variable con 10 mil líneas de insert into y luego la mandas a la base de datos, lo que sucede con esto es que se genera una transacción gigantesca que hacer que la siguiente línea aún guarda información de la transacción anterior, te recomiendo que entre cada línea pongas un GO, ejemplo:
También que desactives la transacción desde delphi, con esto debería mejorar notablemente. Saludos.
__________________
mas confundido que Garavito el día del Niño. |
#5
|
|||
|
|||
Cuando dices desactive las transacciones de delphi a que te refieres?, tambien pense en crear un BEGIN TRANS en el codigo de SQL.
__________________
Al que no le gusta enseñar, no merece aprender... |
#6
|
||||
|
||||
dependiendo del control que uses para la conexión de base de datos, tienes un componente Transaction, con ropiedades, autocommit, active y demás, si este es el caso, lo pones en active false y listo.
Saludos.
__________________
mas confundido que Garavito el día del Niño. |
#7
|
|||
|
|||
Entiendo, utilizo ADOQuery. Este ejecura un commit cuando hace el ExecSQL, pero no tengo propiedades para desactivarlo.
__________________
Al que no le gusta enseñar, no merece aprender... |
#8
|
||||
|
||||
Cita:
Saludos.
__________________
mas confundido que Garavito el día del Niño. |
#9
|
|||
|
|||
Hola...
Yo te recomiendo que los commits lo hagas cada n inserciones, no después de cada una. Yo cuando he tenido que importar grandes cantidades de datos a una base de datos hago los commits cada 500 registros. Saludos... |
#10
|
||||
|
||||
Por supuesto, hacerlo cada registro es una pérdida tremenda de tiempo.
__________________
La otra guía de estilo | Búsquedas avanzadas | Etiquetas para código | Colabora mediante Paypal |
#11
|
|||
|
|||
He realizado las pruebas con las recomendaciones que me han hecho pero la verdad, para mi sorpresa insertando todo de una vez es mas rapido que hacerlo por lotes. El codigo es este.
el archivo esta compuesto por datos como este. esa primera parte hasta el simbolo > es la condicion para poder validar si el registro existe, hago esto al momento de exportar ya que se supone que esos valores talvez no existan en la tabla destino. WHERE Se_codigo_pais = '187' AND Se_codigo_ciudad = '3323' AND Se_codigo = '5'>'5','3323','187','VILLA DUARTE'
__________________
Al que no le gusta enseñar, no merece aprender... |
#12
|
||||
|
||||
Creo que ganarás más tiempo si usas parámetros en lugar de componer la sentencia, más o menos, algo parecido a este ejemplo:
__________________
La otra guía de estilo | Búsquedas avanzadas | Etiquetas para código | Colabora mediante Paypal |
#13
|
|||
|
|||
Ademas de las recomendaciones que te han hecho, una forma de identificar problemas es revisando del lado del servidor de SQL que esta pasando, para ello esta el profiler, crea una traza con el template Standar y vigila que se esta mandando desde tu programa.
Te lo comento porque a mi me paso algo por el estilo, después de volver a escribir media librería me di cuenta de que no estaba limpiando la propiedad SQL, por que lo que en realidad estaba enviando un acumulado de inserts cada vez |
#14
|
||||
|
||||
Y por supuesto no crees una consulta por cada inserción.
Crea la consulta en Importar y pásala por parámetro a Inserta_datos. Después la destruyes al finalizar Importar. Si a eso le añades los parámetros que dice Casimiro, mucho mejor. También voto hacer el commit cada 500 registros. Saludos.
__________________
Si usted entendió mi comentario, contácteme y gustosamente, se lo volveré a explicar hasta que no lo entienda, Gracias. |
#15
|
||||
|
||||
Yo tengo dos recomendaciones...
primera cambiar la forma de lectura dle archivo ... (Assignfile, Reset, etc) cargandolo en un StringList mediante StringList1.LoadFromfile()... creo que es mas rápido Lo segundo es mirar otra alternativa de carga... si trabajas con MS SQL puedes valerte de la funcionalidad "BULK INSERT" ... puedes mirar la documentación de M$ o puedes buscar en google en los foros y páginas de otras personas.... Tiene una "limitante" y es que la ruta que defines para el cargue del archivo debe estar en el servidor del motor...
Un saludo, |
|
|
Temas Similares | ||||
Tema | Autor | Foro | Respuestas | Último mensaje |
Insert múltiple (o masivo) | santiago14 | SQL | 24 | 12-03-2011 14:19:31 |
Insert masivo en firebird | santiago14 | Firebird e Interbase | 2 | 24-05-2010 03:50:29 |
Interbase cada vez más lento... | AMINOA2R | Firebird e Interbase | 1 | 17-11-2005 18:47:00 |
Un Insert muy lento......... | sitrico | Conexión con bases de datos | 9 | 30-05-2005 16:52:21 |
|