[Casimiro Notevi]

Empezado por ecfisa

El nombre del IBDataSet es tbRef
State = dsEdit
tbRefANULADO.Value = 1

Código Delphi [-]
procedure TfrMasterMod.btAceptaClick(Sender: TObject);
begin
//  if MessageBox(Handle,'¿Desea aplicar los cambios?','CONSULTA', MB_YESNO +
//     MB_ICONQUESTION + MB_DEFBUTTON1 + MB_APPLMODAL) = mrYes then
//  begin
//    ShowMessage(tbRefANULADO.AsString); (* valor mostrado: 1 *)
//    if tbRef.State = dsEdit then 
  tbRef.Post;
//    tbDetalle.DataSource:= nil;
//    IBDatabase.ApplyUpdates([tbMaster, tbDetalle]);
//    tbDetalle.DataSource:= dsMaster;
  IBTransaction.CommitRetaining;
//    ShowMessage(tbRefANULADO.AsString); (* valor mostrado: 1 *)
//    Close;
//  end;
end;

No has puesto la sentencia SQL que ejecutas en el TIBDataset, suponiendo que esté bien, sólo debes hacer .post y .commit (o commitretaining).
¿Ese IBTransaction es de esa transacción?
Todo lo demás que has puesto no sirve para nada (para la grabación de ese tibdataset, se entiende)