Hola.
Mientras asp se ejecuta del lado del servidor, javascript se ejecuta del lado del cliente, por lo que desde javascript no podes invocar una función de asp.
Lo que si es posible es invocar un script de asp, que es el principio básico del funcionamiento de AJAX, aunque si las validaciones podes hacerlas todas con javascript, mejor eso.
Si de todas formas queres hacerlas con asp, podes pensar también en hacer un post de los datos introducidos por el usuario, y si algo sale mal producir nuevamente la misma página con los datos cargados y algún mensaje de error que indique cual es el problema.
Finalmente, si te inclinas por ajax, te recomiendo buscar ayuda sobre el objeto XMLHttpRequest.
Hasta luego.
