Все это пошло с Православной руси. Церковное правило, которое переросло в правило этикета. Если человек оставался в головном уборе, на него смотрели, как игнорирующего правила, принятые всеми.
"Всякий муж, который молится или же пророчествует с покрытою головою, ее постыжает" - Апостол Павел
Потом это правило всячески изменялось, например кавалер должен был снимать головной убор, когда в помещении была дама.
Сейчас уже можно сказать, что традиция возвращается в стены церквей, и в основном только там обязательно, заходя в помещении церкви - мужчины снимают головные уборы.