Почему кинетическая энергия шарика в маятнике передаётся другому шару, а не двум, но в 2 раза меньше?

Потому что чтобы выполнились оба закона сохранения (импульса и энергии) в приближении упругого соударения 

m*v == M*V   и   m*v^2 == M*V^2   (или можно скорости заменить на импульсы p==P,   p^2/m==P^2/M)

просто необходимо чтобы m==M  и v==V, чтобы убедится в этом просто замените одно mv на MV и получите равенство v==V.

Иначе соударение не будет упругим.