Для наличия у пространства кривизны (точнее отличия его кривизны от нулевой) не нужны какие-то дополнительные измерения или направления. Это лишь удобный способ более наглядно изобразить такие пространства. Например, искривлённую двумерную поверхность можно разместить внутри нашего привычного трёхмерного объёма.
Если говорить совсем просто, то в искривлённой геометрии по-другому начинают определяться расстояния. Уже не работает теорема Пифагора, а сумма углов треугольника может быть отлична от 180 градусов. В результате в такой геометрии самыми короткими путями (вдоль которых и измеряются расстояния) будут уже не прямые линии, а изогнутые. Поэтому тела могут двигаться "прямо" (по инерции), но при этом расстояния между ними могут меняться. А это нам и нужно!
Представьте листок в клеточку. Искривим его так, чтобы это была поверхность глобуса. Параллели будут представлять пространственную координату, а меридианы временну́ю.
Берём две точки на экваторе, но на разных меридианах, то есть разделённых каким-то расстоянием. Не забываем запустить время! То есть добавляем движение в сторону полюса. Важно, что это будет движение без поворотов, по так называемым геодезическим линиям. Эти линии будут кратчайшими траекториями, то есть они являются аналогами "прямых" в искривлённом пространстве. В нашем случае - это движение по меридианам.
Что произойдёт спустя некоторое время? Расстояние между объектами будет постепенно уменьшаться, пока они не встретятся в одной точке на полюсе. Вот так в искривлённой геометрии два тела могут двигаться по "прямой", но расстояние между ними будет меняться. Не забывайте, что движение вдоль меридианов - это время! А в пространственном измерении (по горизонтали) мы видели, что два тела притянулись друг к другу.
Реальное пространство конечно не двумерное, а четырёхмерное, и не евклидово, а псевдоевклидово, то есть временна́я координата играет особую роль. Поэтому всё гораздо хитрее и пример с глобусом лишь очень упрощённая аналогия. Причем в слабых гравитационных полях, таких как у Земли, главную роль играет искривление временны́х координат, а не пространственных. Речь про то самое замедление времени вблизи массы, когда часы вблизи планеты идут медленнее чем вдали от неё.