Вообще, эти технологии находятся в разных категориях: модели видеокарт от nvidia с пометкой RTX оснащены чипами, которые позволяют выполнять технологию рейтрейсинга (трассировки лучей света) в реальном времени, хотя и раньше, на не-RTX видеокартах это было возможно, просто это было довольно медленно. RTX - это техническое решение, как говорят в народе - "железо".
Технология Lumen это уже программное решение, которое реализовано на языках программирования, с использованием довольно сложной математики, и например, может работать на видеокартах RTX, используя их мощность, а может работать на новой PS5, где установленно немного другое железо.
Ранее, реалистичного освещения в играх часто приходилось добиваться некоторыми условностями - например, часто используется метод "запекания" теней и света в отдельные текстуры заранее, а не во время игры, чтобы игра не тормозила. Просчет таких "оффлайн" теней мог происходит на CPU, и занимал довольно длительное время. По сути уже там использовалась идея трассировки лучей. Технология Lumen и ее аналоги делают эту работу прямо во время игры, в реальном времени, избавляя разработчиков от лишней работы, а игрокам дает реалистичную картинку.