Они боятся, что ИИ выйдет из-под контроля и его невозможно будет остановить. Дело в том, что если речь идет об истинном ИИ, обладающим сознанием, подобным человеческому, то он может уничтожить людей просто по ошибке - например, перестав считать их, собственно, людьми из-за сбоя. Или принять решение, которое человек счел бы аморальным.
Программы пишутся людьми, и люди склонны совершать ошибки, отбрасывать некоторые "маловероятные" сценарии, и эти ружья в глобальных масштабах обязательно рано или поздно выстреливают, скажем так. Взять хотя бы текущее состояние программной индустрии - огромное множество патчей, закрывающих самые разнообразные дыры; массовые утечки данных; уязвимости на аппаратном уровне процессора, которые можно полностью убрать только заменив процессор на новое поколение, ну и так далее. Предусмотреть всё и защититься от всего невозможно, поэтому ИИ в любом случае будет уязвимым и для хакерских атак.
На данный момент больше всего боятся автономного оружия - эдаких роботов-убийц, боязнь очень широко распространена благодаря произведениям массовой культуры от книг Азимова до фильмов вроде "Терминатора" и игр типа Detroit: Become Human.
Паранойя вошла в чат.
Ага, батлерианский джихад.
)
Я люблю приключенские, мистические, и фантастические фильмы, но сколько раз не смотрела современные отечественные фильмы, за редким исключением, они вызывали разочарование.
Смысла уничтожения человечества нет, попросту зачем? А то что человек не идеален и ИИ может быть создан таким же, то это уже не вина ИИ.
А что касается того как будет себя вести ИИ напрямую зависит от его аппарата принятия решения :)
Зачем человек уничтожает других животных и растения?
Искусственый интеллект создаёт человек со всеми своими достоинствами и неостатками,по сему ИИ в моральном аспекте будеттождественен человку ,но при всём своём преимуществе!
Вопрос только в том, которому именно человеку.
)