Вообще вы не очень корректно задали вопрос (подробнее см. П.С.)
Подозреваю, что вам нужен интерпретатор \ компилятор простенького языка для сдачи курсового проекта?
Тогда на том, который вы лучше знаете, и достаточно высокоуровневом (чтобы избавить вас от низкоуровневых проблем).
- Java, C#, которым сейчас учат вполне подойдут в обучающих целях.
- Scala - наверное ещё лучше (если вы достаточно хорошо её знаете).
- что угодно для front-end + llvm back-end - промышленный подход.
ПС
Вообще "собственный язык" не пишется а разрабатывается:
- killer feature -> общая архитектура -> система типов -> формальная грамматика + семантика -> написание тулчейна.
Вот вам в курсовике вероятно надо написать компилятор (или интерпретатор), который является частью тулчейна.