me cuenta solamente 1

[delphi.com.ar]

Prueba esto:

SELECT a.rut,a.curso, p.Nro_cuota,a.nivel,p.fec_ven,nro_abono,val_cuota,val_pag,count(*) 
FROM alumnos a join planpago p on (a.rut = p.rut) 
group by a.rut,a.curso, p.Nro_cuota,a.nivel,p.fec_ven, p.nro_abono,p.val_cuota, p.val_pag
where nro_abono = 0 and fec_ven < '08/08/2003' and val_pag < val_cuota 
having count(*) > 0

Y ten en cuenta que estas agrupando por todos los campos que muestras!!