Hola,
Hay una librería/biblioteca (me curo en salud) que contiene no pocas unidades con rutinas curiosas. Una de estas unidades es "dwScreens.pas" y contiene, entre otras, una función de nombre "dwMonitorIsGrayscale" que creo puede serte útil. De todos modos hay otras funciones que tal vez puedas aprovechar para lo que te ocupa. Estoy hablando de
DelphiWorks y, puesto que cuentas con su código fuente, o bien puedes usar alguna función directamente o bien puedes ver cómo funciona e implementar algo por tu cuenta.