Нет. Программируемые системы не могут создавать неустранимые риски для существования человечества поскольку не имеют собственных интерессов.
Риски могут создаваться разработчиками и пользователями систем ИИ, но это другая опера.
Тем не менее, есть возможность создания автономных искусственных систем способных создавать такие риски. Это искусственные субъективные системы (ИСС). Эти риски довольно легко устранимы.
ИСС должна быть конструктивно лишены возможности иметь собственные интерессы.
В этом случае риски для существования человечества, со стороны ИСС, не будут возникать.