Когда начнёте изучать - окажется, что они тесно взаимосвязаны: растр и вектор.
Что в растровых редакторах векторные объекты и пути выделений.
А в векторных - многие элементы и результаты работы некоторых плагинов растровые. И результаты кропотливой работы в итоге придётся сохранять в растре.
Что программы вёрстки (в т.ч. интерфейсов), имеют векторные блоки и элементы-маски для растровых изображений.
Что в "векторной" (по сути) 3D-графике используются растровые текстуры и карты.
Что детальные векторные изображения приходится переводить в растровые, чтобы не иметь проблем с печатью. А растровые - в векторные, чтобы получить возможность вырезать из плёнки.
Творчество, оно такое - нет четких правил и ограничений, нет однозначных решений. Правила начинаются, при наработке опыта и при столкновеннии полёта фантазии с "производством".
Так что осваивать придётся и вектор и растр.
С чего начать? Проще и занятнее - с вектора. Интереснее - с растра. А на глубине - нюансов у обоих технологий хватает.
Обычно начинают изучать с того, что нужнее в начале карьеры. У меня в начале пути был "пиксель-арт" на CGA-экране, ASCII-арт и псевдо-графика в текстовых редакторах и при программировании интерфесов, анимация в редакторах презентаций и AutoCAD под MS-DOS. :-)