Hola...
Casimiro, usan un protocolo basado en el estándar
XMPP usando el framework
xmppframework que está realizado en
Objective-C para la plataforma OS X. Esta información la obtuve de la red.
Ahora, algunos de los problemas de seguridad que mencionas ya los han solucionado, pero aun siguen
abiertos otros.
Y el por que se ha vuelto popular, pues por que permite una comunicación directa entre dispositivos diferentes (iPhone, Blackberry, dispositivos Android), de una forma parecidad al BB Messenger de RIM. Para usar google chat uno tiene que crear una cuenta en google, cosa que muchos usuarios no están dispuestos a hacer. Con WhatsApp solo necesitas tener un celular y registrar tu número telefónico y no necesitas estar conectado todo el tiempo para poder recbir los mensajes (funciona tipo SMS).
Saludos...