Para buscar la palabra puedes usar la función Pos aplicada a memo.text, o bien PosEx de la unidad StrUtils si quieres hacer búsquedas secuenciales. En ambos casos, la función te devolverá el índice (basado en 1) de donde empieza la palabra dentro del texto, o 0 si no se encuentra. Este índice lo puedes usar como parámetro al mensaje EM_LINEFROMINDEX para obtener el índice de la línea en el memo.
Ejemplo:
Código Delphi
[-]
var
i, j: integer;
begin
i := Pos('palabra', Memo1.Text);
Dec(i);
if i >= 0 then
begin
j := Memo1.Perform(EM_LINEFROMCHAR, i, 0);
Memo1.Lines.Delete(j);
end;
end;
// Saludos