Seguro no te estas quedando sin memoria fisica y el SO esta paginando?
Totalmente recomendado en estos casos, y herramienta indispensable:
http://www.sysinternals.com/
En especial
http://www.sysinternals.com/Utilitie...sExplorer.html
Que te permite ver de forma REAL (no como el integrado de windows) que DLL, archivos, uso de memoria y CPU, subprocesos, etc... se estan usando.