Опасность видится не в захвате искусственным интеллектом человечества, а в зависимости от него. Все больше объектов управляется компьютерами и контроллерами (по сути специализированный компьютер). В случае глобального сбоя из-за технических ошибок, или внешних факторов, общество может остаться без электро, тепло и водоснабжения, транспорта, газа и так далее. Это действительно катастрофа. В 19-м веке на Солнце произошла сверхмощная вспышка, которая повредила телеграф, в котором и ломаться нечему. Сегодня уязвимой оказалась-бы, вся незащищенная электроника.