Какой алгоритм использует телеграм для генерации пригласительных ссылок?

скорее всего рандомный , базовый )) так как там ничего прям сверх естественного в коде нет.

в отличии от всех остальных сервисов и соц сетей с генерацией ссылок