Ракеты действительно стартуют в вертикальном положении, а при достижении определённой высоты начинают набирать горизонтальную скорость. Полностью вертикальный подъём невыгоден из-за гравитационных потерь, а ждать замедления ракеты в апогее невыгодно из-за эффекта Оберта.
В самом начале полёта ракета немного, на несколько градусов ракета наклоняется в сторону своей будущей орбиты, а затем движется в направлении движения. Это позволяет минимизировать гравитационные и аэродинамические потери, затраты на изменение направления движения, а также поперечные нагрузки на аппарат.
В тот момент, когда апогей траектории достигает будущей орбиты, двигатель отключается и ракета летит по инерции по баллистической траектории. В районе апогея двигатель включается ещё раз, и ракета набирает необходимую орбитальную скорость.
Но есть и исключения. Японская ракета "Лямбда-4S" достаточно лёгкая, чтобы стартовать с наклонной рампы, с изначально заданным углом отклонения.