Función que devuelva la posición del primer carácter que no esté en la máscara de bus

[aguml]

Buenas, pues eso, hay alguna función en C para buscar unos caracteres en una cadena y que devuelve la posición de la primera o última de cualquier carácter pero yo quiero lo contrario, o sea, Supongamos que la función se llama buscar, pues:
Buscar("abc", "acabo");
Devolviese la posición del carácter 'o' ya que no está entre los caracteres indicados en la máscara de busqueda, no sé si me explico.
¿Conocen algo así?
Lo que quiero hacer es filtrar lo que se pegue desde el portapapeles a un tedit y que solo sean caracteres hexadecimales.