Эпоха -- это весь набор подготовленных данных для обучения нейронной сети.
Поскольку весь набор данных может быть очень большим, то для управляемого обучения нейронной сети его делят на пакеты. Например, 10000 примеров можно поделить на пакеты по 1000 примеров в каждом (это размер пакета), и тогда для прогонки эпохи понадобится 10 итераций. Только после завершения десятой итерации счетчик эпох увеличивается на единицу.
Цель обучения нейронной сети -- свести ошибку к минимуму, и одной эпохи недостаточно для достижении этой цели. Количество эпох индивидуально и зависит от качества и однородности примеров.