Creo que en este caso en vez de hacer un SO seria hacer un escritorio personalizado.
Se puede hacer un shell personalizado para Windows, como atestiguan quienes hacen software para cybercafe.
O un desktop para linux. Aunque eso me parece mas asustador
O algo mucho mas sencillo, una aplicacion de pantalla completa. Con sus propios iconos y ya es mas simple reposicionar ventanas al interior de esta.
Pero en ningun caso es tan simple. Ademas que requiere conocimientos de como reconfigurar (windows o linux), pero me parece posible.