Cuando ejecutas messageDlg, y segun la ayuda de Delphi
te devuelve uno de estos valores:
mrNone mrAbort mrYes
mrOk mrRetry mrNo
mrCancel mrIgnore mrAll
dependiendo del boton que hayas presionado para cerrar el dialogo.
Por otro lado si quieres utilizar botones con imagenes utiliza los TBitBtn o TSpeedButton.
Suerte.