Вам нужна специальность по типу "Защита информации" , которая есть во многих технических вузах на IT кафедрах. Хотя основы криптографии и теории алгоритмов как курс преподают на любой приближенной к IT специальности.
Другое дело что развитие квантовых компьютеров в скором времени может свести на нет все известные алгоритмы шифрования...