este parametro Aplication.Handle tenes q pasarle a tu Dll
y a la hora de crear el Formu lo haces de esta manera.
Código Delphi
[-]
function ShowForm(A: TApplication): Bool;
var
Form1: TfrmDLL;
begin
Application.Handle := A.Handle;
Form1 := TfrmDLL.Create(A);
try
Result := (Form1.ShowModal = mrOK);
finally
Form1.Free;
end;
end;