Eso creará un Array dinámico de Arrays dinámicos que no es estrictamente una matriz, por eso lo que tienes que hacer es "dimensionar" el array y después cada uno de los arrays dinámicos pertenecientes a este array.
En este ejemplo, dimensiono el array a 10 y cada ítem lo dimensiono según su índice:
Código:
var
DynArray: array of array of byte;
i: Integer;
begin
SetLength(DynArray, 10);
for i := 0 to 10 do
SetLength(DynArray[i], i);
Saludos!