Каким образом аппарат Луна-3 сгорел в атмосфере Земли, если после облёта Луны он вышел на орбиту с параметрами 40000 км х 460000 км?

Указанные параметры не точны. Это во-первых. Во-вторых, это первоначальная орбита. На момент запуска (1959г) и слежения за космическими аппаратами в Космосе, вся аппаратура в СССР была настолько СЫРАЯ, что расчёты были довольно приблизительными. Поэтому после первого и последующего витков перигей смещался всё ближе и ближе и после 11 витков угол подхода к Земле стал таким, что траектория попала в атмосферу со Второй космической скоростью. Насчёт "сырости", но и СМЕЛОСТИ тогдашних космических программ могу добавить следующее. Луна-3 была на третьей ступени боевой ракеты Р-7. Третья ступень впервые. Для достижения 2-ой космической скорости. После ознакомления с фотографиями Луны, сделанными "Луной-3" Королёв написал советскому академику-астроному на обратной стороне фото: "...первая фотография обратной стороны Луны, которая не должна была получиться..."

Схема полёта подразумевала вытянутую эллиптическую траекторию. С апогеем станции "Луна-3" вблизи границы земной гравитации. Без дополнит мер она упала б на Землю после 1-го витка (сгорела бы в атмосфере). В 1959 г решение нашли баллистики: подкорректировать траекторию гравитацией Луны. Траекторию рассчитали так, что когда станция летела уже медленно, её подхватила гравитация Луны.

Подобный трюк Россия проделала в 2011 году при запуске супертелескопа Спектр-Р. (Только уже на многие годы) Лунная гравитация сменила орбиту Станции, ставшей спутником и Земли, и Луны. Так был осуществлён гравитационный манёвр. Луна-3 вместо недели по плану пробыла на полезной орбите около полугода, до весны 1960 года. Но расчёты и автоматика были менее точными, чем в 2011 г. И весной 1960 г Земля отцепила Станцию от Луны. И после притянула к себе.