Dirá que eso se puede hacer de forma similar a como se hace con los forms "normales" (sin que estén en una DLL), utilizando el Parent del form que estás abriendo.
Revisa estos hilos:
Form dentro de otro
Se puede colocar un form dentro de un TPanel
Form contenedor dentro de otro