[roman]

Empezado por esocrates

Pero no sé cómo crearlo con un Memo en su interior

[...]

begin
    TTabSheet.Create(Self);
     TMemo.Create(Self);
    with TTabSheet.Create(Self) do
    begin
      PageControl := PageControl1;
    end;

end;

Debes asignar el TabSheet recién creado a la propiedad Parent del Memo.

// Saludos