Puede que tu dispositivo no pueda utilizar el modo overlay.
Prueba entonces a sustituir esto:
Código Delphi
[-]
SendMessage(CapWindow, WM_CAP_SET_OVERLAY, 1, 0);
Por eso otro:
Código Delphi
[-]
SendMessage(CapWindow, WM_CAP_SET_PREVIEW, 1, 0);
SendMessage(CapWindow, WM_CAP_SET_PREVIEWRATE, 100, 0);
Y no me olvido del valor de las constantes:
Código Delphi
[-]
const
WM_CAP_SET_PREVIEW = WM_USER + 50;
WM_CAP_SET_OVERLAY = WM_USER + 51
WM_CAP_SET_PREVIEWRATE = WM_USER + 52;