[JOSEA]

La función de ohcan, de lujo, pero si además quieres que funcione parecido a un Tedit (o sea si escribes al principio del Tmemo que no borre la ultima línea entera, se me ocurre esta solución

procedure TForm1.memoKeyUp(Sender: TObject; var Key: Word;
  Shift: TShiftState);
begin
  if memo.lines.count >3 then begin
    keybd_event(vk_back, 0, 0, 0);
    keybd_event(vk_back, 0, KEYEVENTF_KEYUP, 0);
  end;
end;

Hace un efectillo raro pero funciona (incluso si pulsas un enter)