[roman]

Tal como dice coso, el carácter modal no depende de la ventana en sí, sino de lo forma en que se muestra, bien sea usando Show o ShowModal.

Sin embargo, el problema puede estar en que tu formulario sea fsMDIChild, pues en tal caso, el uso de ShowModal no es posible.

Yo lo que haría es dejar el formulario como fsNormal para poderlo mostrar modalmente con ShowModal, y cuando quieras mostrarlo como foumulario hijo:

Código Delphi [-]
var F: TFormHijo;

begin
  F := TFormHijo.Create(...);
  F.FormStyle := fsMDIChild;
  // F.Show;
end;

// Saludos