В доисламский период Кабул был центром индуизма, зороастризма и буддизма, о чем свидетельствуют многие археологические находки. Он упоминается в индийской Ригведе (сборник древних индийских религиозных текстов, датировавшийся 1700 - 1100 гг. до н. э) и Авесте (священной книге зороастрийцев, составлявшейся на протяжении нескольких столетий).
Древнегреческие географы Птолемей и Страбон также упоминают его в своих трудах. Упоминание Кабула встречается и в китайских исторических источниках.
На протяжении своего существования город неоднократно подвергался завоеваниям, входил в состав разных государств и испытывал на себе влияние различных культур: Персии, Индии, Греции, Китая, арабов и монголов.
Как отмечают историки, арабские завоеватели, пришедшие в регион в 7 веке, встретили жесткий отпор со стороны жителей Кабула. На тот момент городом правили кабул-шахи, и лишь в 870 году он перешел под контроль мусульманской династии Саффаридов. В течение нескольких следующих веков Кабул находился под властью Саманидов, Газневидов и Хорезмшахов. В 1221 году был сильно поврежден и разграблен войсками Чингисхана и более столетия оставался в упадке. С приходом династии Тимуридов (1370 – 1507 гг.) началось возрождение города.
Наивысшего расцвета Кабул достиг в 16 веке, при правлении Бабура, основателя династии Великих Моголов. Отсюда он совершал свои завоевательные походы в Индию. Бабур питал к городу особую любовь, всячески способствовал его восстановлению и развитию и сделал его важным центром своей империи. При нем были возведены знаменитые сады, которые сейчас считаются одной из главных достопримечательностей Кабула. Здесь же находится и гробница Бабура.