Como realices operaciones dentro de la consulta, es posible que al devolverte un valor con decimales el campo de recepción se por ejemplo entero y de ahí puede venir el error.
Código SQL
[-]update resultadoevalu set resultadocalifresp=( select sum(cc.calificacion) /max(codigoresponsabilidad)
as totalcaliresp from personal
p inner join calificacionresponsabilidadjefe cc on cc.cedula=p.cedula
group by cc.fechaevaluacion,p.cedula) where resultadocalifresp=0 and resultadocalifhab=0 and totalevalu=0
Suponiendo que ese fuera el error, tendrías que utilizar
CAST.
Un Saludo.