Всё очень просто. Большие данные, это те, что не влезают в вашу оперативку. Всё. К сожалению у меня остались символы =(
Естественно, в большинстве случаев имеется ввиду, что не влезает в оперативку большинства серверов. И тут уже вступают в силу другие алгоритмы обработки больших данных, основанные на параллельном исчислении и прочих методах.