Problema con MessageDLG o Application.MessageBox

[roman]

Lo que quieres se puede hacer perfectamente con el MessageDlg, el problema debe estar en otra parte. Sería bueno que explicaras un poco más acerca de cómo muestras el mensaje.

Por ejemplo, si el mensaje lo muestras en el evento OnClick de un botón cuya propiedad ModalResult es mrOk (quizá el botón "Aceptar" del formulario con el Edit), entonces, luego de cerrar el MessageDlg, también se cerrará el formulario con el Edit porque su propiedad ModalResult cambió.

Si la situación es parecida a lo que digo, lo que debes hacer es utlizar el evento OnCloseQuery del formulario para hacer la validación y cancelar el cierre del formulario de ser necesario:

Código Delphi [-]
procedure TForm2.FormCloseQuery(Sender: TObject; var CanClose: Boolean);
begin
  // haces validaciones sólo cuando se presione el botón "Aceptar"
  if ModalResult = mrOk then
  begin
    // Si no pasa la validación...
    if MontoEsMayorQueElPermitido then
    begin
      // Lanzas el menaje
      MessageDlg('Valor incorrecto', MtInformation, [mbOK],0);

      // e impides que se cierre el formulario
      CanClose := false;
    end;
  end;
end;

// Saludos