Para empezar, yo uso poco los formularios tipo DMI, más que nada porque en el trabajo diario no me hacen falta. Pero tengo entendido que cuando creas una ventana "hija" en un MDI se crea, pero cuando la cierras NO SE DESTRUYE, sino que se esconde. En estos casos, revive con un "Show" y no con un nuevo create.
Cuando creo formularios "modales", elimino de estos la variable "Formx: TFormx" que se crea automáticamente. Prefiero crearlos y liberarlos yo mismo desde código (No hace falta decir que hay que quitarlos de la parte "Autocreate" de las opciones del proyecto).
De todas formas no está de más echar un vistazo a
La cara oculta de Delphi 4 que, en el capítulo 13, tiene un extenso tutorial sobre "Técnicas de Gestión de Ventanas"
Saludos