Почему искусственному интеллекту нельзя доверять управление цивилизацией?

Разница между интеллектом искусственным и живым в их мотивации и происхождении. ИИ инициирован алгоритмом, человек своим желанием выполнить задачу. То есть работу ИИ толкает алгоритм, а работу ЖИ его эмоции. Больше того, сама машина создана человеком (ЖИ) под влиянием желания усилить свои возможности. То есть смысл искусственного интеллекта в усилении интеллекта живого — его инструмент. Без человека ИИ бессмысленен. Как калькулятор без бухгалтера, автомобиль без водителя, компьютер без пользователя.

Другими словами, для самостоятельных действий необходимо — желание! А оно не у машины, оно у человека. 

Последнее определяет ответ на ваш вопрос. Никакой ИИ никогда сам ничего не захватит. Как калькулятор ничего сам не посчитает, автомобиль не поедет, компьютер в сеть не выйдет. 

Пока человек не озадачит ИИ, он просто будет стоять. Все действия машины против человека могут быть результатом либо ошибки человека, либо преднамеренным злом всё того же человека, но никак не желанием сверхнавороченного калькулятора (ИИ).

Другими словами, первичен человек. Он создал себе машину, для усиления самого себя.

ИИ не самостоятельный электронный организм, а продолжение(!) интеллекта живого! Без него ИИ — ничто. 

И уж если ИИ превзойдет ваш «Космический Разум», то это будет не сам ИИ а как раз человек им пользующийся!

ИИ не личность, а наворочный калькулятор. Просто железка! Не придавайте из собственной тревожности ему свойства личности, не накручивайте себя жуткой  фантастикой из человеческого страха.