Bueno en el segundo parametro la palabra 'render' creo que un valor valido porque segun la msdn de microsoft esta no existe, si quieres abrir el cmd cambia ese parametro por 'open'
ademas si quieres que te ejecute los comandos que le vas a mandar al cmd tienes que poner antes el '/k '
porque si no, no hara nada
Código Delphi
[-]
ShellExecute(Handle,'open', PChar('cmd'),
PCHAR('/k '+sEdit1.Text+ ' --background '+sEdit2.Text+' --render-output //test_ --' +
'engine CYCLES --render-format PNG --use-extension 1 --render-frame 5'),nil, SW_SHOWNORMAL);
Espero mas o menos se entienda