Во-первых, "никто не считал" — всё же перебор. Фрагментарно мы всё же получаем данные переписей и в Средние века (насчёт древность вопрос к специалистам по ней). Хотя да, до XVI века (и то лишь в Англии и Франции) это именно фрагментарные данные, а не фиксирование всех рождений/смертей и так далее.
Во-вторых, существует в письменных источниках много косвенных данных, позволяющих оценить население — сведения по сбору налогов, например, сбору военных ополчений, функционированию гильдий и цехов.
В-третьих, размеры и подробности застройки городов прошлого нередко даёт возможность узнать археология, и это тоже даёт кое-какую информацию о населении.
Однако, как видим, речь действительно о фрагментарных или косвенных данных, потому и все оценки населения Европы (а также конкретных её стран, территорий, городов) — приблизительные. Причём зачастую они в литературе расходятся довольно сильно. Тут уж ничего не поделаешь, до XVI века в самых развитых странах той эпохи и до XVII–XVIII в остальных более точные сведения взять просто неоткуда. Повезло, если где-то всё же посчитали население и конкретно про этот город/территорию на конкретно это время данные всё-таки имеются.