Каким институтом право был внедрён в юридическое поле термин нелегал?

Институт права - это комплекс норм права!
Во как-то так:
Институт права, или правовой институт — объективно обособившаяся внутри той или иной отрасли группа взаимосвязанных однопорядковых юридических норм. Вот одна из классических дефиниций правового института: Институт права — это сравнительно небольшая, устойчивая группа правовых норм, регулирующих определённую разновидность общественных отношений.
Нелегал - это иностранное слово, антоним легал(ьный) - что значит законный!

Происходит от прил. нелегальный, от не- + легальный, от лат. legalis «правовой», далее из lex (род. п. legis) «закон», далее из неустановленной формы; сравнивают с legere «собирать».

Значение