Pues acabo de volver a probarlo y a mi me funciona.
Prueba este dpr:

Sigue sin funcionarme. Igual es la versión de Delphi. Para poder probarlo, he tenido que quitar en los "uses" todas las referencias: "Winapi." "Vcl." "System." ya que no las reconocía, y eliminar entonces los uses dobles que quedaban.

Hay un truco, que conozco desde mi época de Visual Basic, para crear ventanas flotantes (tipo barras de herramientas de Office), que consistiría en:

Código Delphi [-]
const
  SWW_hParent = -8;

 ...

SetWindowLong(FormFlotante.Handle, SWW_hParent, FormPadre.Handle)

Esta forma permite más posibilidades, como crear una jerarquía de ventanas.

Ejemplo:

Código Delphi [-]
procedure TForm1.FormShow(Sender: TObject);
const
  SWW_hParent = -8;
begin
  SetWindowLong(Form2.Handle,SWW_hParent,Form1.Handle);
  Form2.Show;

  SetWindowLong(Form3.Handle,SWW_hParent,Form2.Handle);
  Form3.Show;
end;

Algo más sencillo que puedes usar en las nuevas versiones de Delphi

Establece la propiedad PopupMode del formulario a pmAuto y por último, crea el formulario superior como hijo directo del formulario padre/principal. Por ejemplo:

Código Delphi [-]
FormHijo := TFormHijo.Create(FormPadre);

Saludos!

Enlaces:
Propiedad PopupMode.
WS_POPUP (Para versiones de Delphi que no traen la propiedad PopupMode de TCustomForm.

Sí, es eso mismo. Incluso se puede establecer la propiedad PopupMode por código a posteriori:

Código Delphi [-]
FormHijo := TFormHijo.Create(FormPadre);
FormHijo.PopupMode := pmAuto;
FormHijo.Show;

Aunque no se comporta exactamente igual. Me explico, con el siguiente código:

Código Delphi [-]
procedure TForm1.Button1Click(Sender: TObject);
begin
  Form2 := TForm2.Create(Form1);
  Form2.PopupMode := pmAuto;
  Form2.Show;

  Form3 := TForm3.Create(Form1);
  Form3.PopupMode := pmAuto;
  Form3.Show;
end;

El Form3 se comporta como si fuese hijo del Form2, no del Form1. Y no entiendo por qué.

Saludos!

Aunque lo puedes hacer, la documentación de Delphi aconseja que lo hagas esclusivamente en tiempo de Diseño.

No entiendo realmente que esté pasando. Hace un tiempo hice una aplicación usando estas propiedades, pero los formularios no se comportan a cómo mencionas. No recuerdo que configuración en especial estaba utilizando para que no me diera este inconveniente. Habría que probar distintas combinaciones.

Saludos.

PD.: Probá estableciendo la propiedad PopupMode en tiempo de diseño exclusivamente.

También lo había probado así, por si fuera eso.

Saludos!

A ver, si hago lo siguiente:

Código Delphi [-]
procedure TForm1.Button1Click(Sender: TObject);
begin
  Form2 := TForm2.Create(Form1);
  Form2.Show;
end;

procedure TForm1.Button2Click(Sender: TObject);
begin
  Form3 := TForm3.Create(Form1);
  Form3.Show;
end;

Sí se comportan de la manera esperada. Pero, estando en el mismo procedimiento se comportan como he dicho anteriormente.

Saludos

Pues a mi me funciona
 

Al menos en XE2 funciona con el ejemplo que te di. Mira este video a ver si se acerca a lo que quieres.
http://www.ricardoplaza.com/download/formdetras.mp4

Efectivamente, es eso Ricardo. En el uso de CreateParams me funcionan, por ejemplo, los códigos de esta página:
http://delphi.about.com/od/formsdialogs/l/aa073101b.htm
Pero con WS_EX_NOACTIVATE no marcha en mi caso.

Un saludo

que sistema operativo tienes? versión de delphi?

Lo he probado en una máquina virtual con Windows XP y Turbo Delphi.
No me dedico a la programación, es más bien una afición. Aunque en alguna ocasión le he sacado provecho.

deberias probar con un windows real y un delphi completo, a ver que tal, seguro ese es el problema

Si aún lo quieres hacer así, la siguiente oración que extraigo de una entrada de la ayuda de Delphi te puede aclarar:
En este caso tendrás que establecer las propiedades PopupMode a pmExplicit y PopupParent a Form1 (en este caso Form1 es el formulario padre).

Saludos!

Así sí se puede elegir el formulario padre de manera precisa.

Muchas gracias!