На инфосеке вам да, математика пригодится, причём именно такая, прикладная-бытовая. Конвертировать в уме числа между системами счисления, знать разные хитрые операторы вроде исключающего "или", булева алгебра там во все поля, криптография сама по себе это жёсткая работа с числами в разных страшных формах. Если вас бесит сама мысль работать с числами, вам будет тяжело.
Классика жанра на тему это Hacking: the Art of Exploitation, была переведена на русский, Reversing (так и называется), есть очень хорошая книга по реверсингу
Reverse Engineering for Beginners, я как веб-разработчик читал и очень рекомендую книгу под названием Web Application Hacker's Handbook. Конкретно для изучения темы проникновения я бы рекомендовал книгу Gray Hat Hacking, там просто всё что только можно на эту тему.
Стандартные инструменты инфосека, которые у всех на слуху, это дистр линукса под названием Kali Linux, набор утилит под названием Metasploit Framework и сканер трафика Wireshark.
Просто читаете литературу, чтобы понять, как вообще выглядит сфера информационной безопасности, потом ставите себе инструменты и по официальной документации пробуете упражнения/примеры. Без практики вы вообще ничего не поймёте.