Es un teorema matemático. Aunque creo que no es eso lo que preguntas, ¿verdad?
A mi se me ocurren varias posibles maneras, y la más rápida (de implementar) podría ser implementar una función que calcule la suma de cuadrados y después hacer dos bucles anidados, uno para el a y otro para el b, e ir llamando a esa función comprobando el resultado.
Seguro que hay formas mejores, pero es que es domingo.
