На текущий момент ни о каком ИИ (истинном) речи даже близко не идёт. Учёные даже не представляют, на каком принципе его строить. То что есть — это нейросеть. То есть интеллект амёбы, способный лишь через перебор всех возможных вариантов, найти наилучший вариант. При том сложность расчётов, при сложение условий, по факту умножается. А это даже близко НЕ интеллект. И как результат, ни какой "катастрофичности" в нём не вижу.
Что до истинных ИИ, то и тут вопрос весьма спорный. Ибо любому разумному существу, чьё существование весьма шатко и завязано на этот "шарик", ни какие глобальные катастрофы не нужны. А уж если люди смогут создать такой ИИ, то уж точно его существование будет связанно с существованием людей. А по тому и смысла ему как-то им вредить не будет.
Единственная опасность — это если люди на какую-то программу (будь то истинный ИИ, или его имитация, или вообще тупое ПО) навесят много жизненно важных функций. И тут не важно, примет решение ИИ, или же просто программа сбойнёт — результат то будет один.