Decirte que no vas a poder "ligar" de forma automática un archivo de ayuda CHM a un aplicativa Delphi, lo tendrás que hacer todo "a pelo".
Las propiedades HelpContext, HelpKeyword y HelpType sólo te servirán para archivos HLP.
En su día, yo usé el HtmlHelpAPI o el HtmlHelp, no recuerdo ahora su nombre exacto, perosi buscas en Torry, seguro lo encuentras. Esta Unit encapsula tres funciones de llamada a la API que son
HtmlHelpShowTopic(const aTopic : String) : HWND
HtmlHelpShowContents : HWND
HtmlHelpShowIndex : HWND
Creo que sus nombre son lo bastante explícitos, no?
Espero te sirva