Hola, el problema que veo es que estas usando un form modal, no importa que hagas si usas ModalResult por defecto el form se va a cerrar, además no estas controlando el resultado del form2, Lo que podes hacer en el btnSaveClick anular la condición:
Código Delphi
[-]
if chkDigitMode.Checked then
ModalResult:=mrNone
else
ModalResult:=mrOk;
En el botón cancelar cerrar el form y en el aceptar/grabar solo grabar.