En principio no debería haber diferencia pero vamos a organizarlo mejor.
ShowModal es una función y es su valor de regreso lo que debes examinar en el OnCloseQuery del form principal:
Código Delphi
[-]
CanClose := (Form3.ShowModal = mrYes);
No necesitas programarle nada a los botones de Form3. En su propiedad ModalResult pon mrYes para el botón "SÍ" y mrNo para el botón "NO".
Cuando presionas uno de ellos, el formulario Form3 se cierra y ShowModal regresa el valor de la propiedad ModalResult del botón oprimido. (Un formulario modal se cierra automáticamente en cuanto su propiedad ModalResult, que se establece por los botones, es distinta de cero, mrNone).
// Saludos