Угловые размеры Луны вычисляются из астрономических наблюдений, масса Луны вычисляется исходя из массы Земли. Во времена, когда масса Земли ещё была неточна, Ньютон использовал высоту приливов, как дополнительные уравнения. В первой половине ХХ века со средними размерами и средней плотностью проблем не было.
Другое дело, форма Луны достаточно сильно отличается от шара, кроме того, лунные масконы (гравитационные аномалии) весьма сильны и распространены. Вот это начали изучать Луна-10 и Лунар Орбитеры (5 шт.), и это дело изучают по сию пору.
Насчёт американцев, то тот же Аполлон-17 притащил на Луну аж два гравиметра, один стационарный, один мобильный.