Hace poco tiempo hice un compilador simple con instrucciones al estilo Object Pascal.
Puedes utilizar herramientas para generar automáticamente el compilador, para esto debes proporcionar la grámatica del lenguaje que quieres reconocer
Las más famosas herramientas son Lex para generar el analizador léxico (tokenizer) y YACC para generar el análizador sintáctico (Parser).
Están disponibles también para Delphi, te dejo algunas páginas en dónde puedes obtener información.
Rx de un compilador
Tutorial de Lex & Yacc
Genreración de Parsers de Gramaticas Libres de Contexto.
Turbo Pascal Lex & YACC
Espero que te sea útil, un saludo.