Когда и как появилось это выражение, с ходу не скажу (тем более что оно подозрительно одинаково и в русском, и в английском), но рискну предположить, что во время/после Первой мировой войны. Хотя разделение артиллерийских орудий на легкие и тяжелые идет еще со времен позднего Средневековья.
Отличие тяжелой от легкой во все времена - в поражающей способности снаряда, дальнобойности и, самое главное, в подчинении. Как правило, командование легкой артиллерией осуществляется на уровне "батальон-полк", а вот тяжелая артиллерия - в распоряжении командира дивизии, армии, корпуса, фронта а то и самого главкома. Соответственно, раз пошла в ход поддержка с такого высокого уровня, то данному конкретному бою уделяется большое внимание и выделяются все возможные резервы. Просто так тяжелую артиллерию в ход не введешь