Podrías probar en el evento OnChange del Combobox algo así:
Código Delphi
[-]procedure TForm1.ComboBox1Change(Sender: TObject);
var a : Integer;
begin
try
a := StrToInt(ComboBox1.Text);
except
ShowMessage('Solo caracteres númericos');
Combobox1.Text := "";
end
end;
Si lo quieres hacer más bonito el OnKeyPress puedes validar que el caracter introducido sea un número con
en caso contrario muestrale un error
Espero que te sirva
Saludos