Pues yo lo he probado tambien y me sale todo bien por ejemplo:
RoundTo(123,456789,-3)=123,457 ok
RoundTo(123,456789,-2)=123,46 ok
RoundTo(123,456789,-1)=123,5 ok
RoundTo(123,456789,0)=123 ok
Probado en Delphi 7.
Me late que quisas estas haciendo algo mal.
Por que no pones tu codigo para que lo podamos ver.