Почему в методе наименьших квадратов используются квадраты, а не модули?

Это вопрос терминологический. Метод наименьших квадратов называется именно так, потому что там используются квадраты. Если бы в этом методе использовались модули, то и название у него было бы Метод наименьших модулей . То есть, как только вы начинаете минимизировать сумму модулей, то больше не можете называть это методом наименьших квадратов и должны использовать другое название, что собственно и делается в методе наименьших модулей. Таким образом, метод наименьших квадратов не может использовать модули, так как защищён от этого терминологически.

Я подозреваю, что вы хотели задать другой вопрос, который должен звучать так: "Какой метод предпочтительнее для регрессии: наименьших квадратов или наименьших модулей?" Но это уже совсем другой вопрос.