Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Почему некоторые известные люди (Хокинг, Маск, Гейтс) боятся искусственного интеллекта при наличии сотни возможных сценариев развития?

ОбществоТехнологии+1
Алихан Бисаков
  ·   · 24,1 K
финансовый аналитик  · 20 мая 2016

Потому что все описанные в литературе и кино сценарии предполагают существование антропоморфного искусственного интеллекта. Это значит, что человек представляет искусственный интеллект похожим на человеческий. Но нет ни единого повода так думать. Во-первых, мы не до конца изучили и способны контролировать собственный интеллект. Во-вторых, человек - это биологический организм, а вот ИИ будет, скорее всего, находиться в "коробке", а значит он будет ограничен принципиально другими факторами. В-третьих, часто предполагается, что при постановке глобальной задачи (сохранение Земли, например), ИИ придет к заключению, что люди представляют слишком высокий риск, и от них нужно избавиться. Это логично, так как в силу человеческой природы мы для него будем представлять некий фактор неопределенности, энтропии. В-четвертых, не исключено, что искусственный интеллект в какой-то примитивной форме уже существует. Мы исходим из представления, что интеллект это сумма некоторых способностей: целеполагание, абстрактное мышление, обучение на основе опыта и т.д. Будет ли интеллект таковым, если будет отсутствовать один из факторов определения? Мы не знаем, потому что никогда такого не видели. У нас нет опыта взаимодействия с "другим" (нечеловеческим) интеллектом. Просто по умолчанию предполагается, что мы поймем, что это он, когда столкнемся с ним. В таких условиях ИИ для нас абсолютно непонятное и непредсказуемое нечто. При этом даже ученик старших классов способен построить простую нейронную сеть, которая могла бы самообучаться. А теперь загляните в исследовательские центры гугла, фейсбука, apple, ibm, яндекса и других.

Слава богу, хоть финансисты порадовали! Почти всё так, кроме одного - искусственный интеллект он и есть искусственн... Читать дальше
Я - врач функциональной диагностики в психиатричес...  · 21 мар 2021
Указанные выдающиеся личности хороши в своих областях, но в других ничего не понимают и начинают фантазировать. Дело в том, что человек придумал ИИ, и придумал это с определённой целью, хотя сам того и не подозревал, возможно... Читать далее
Увлекаюсь естественными науками и математикой...  · 19 февр 2021
Без искусственного интеллекта человечество практически гарантированно выживет (лишь сценарий тотальной ядерной войны единственная возможность самовыпилиться, да и то вряд ли полностью). С искусственным интеллектом человечество... Читать далее
Не знаю, какими естественными науками занимается отвечающий, но точно не эволюционной биологией или нейрофизиологие... Читать дальше
Христианство/Православие. Св.Писание/Предания. Общ...  · 22 мар 2021
Кого по Вашему больше всех "заботит" искусственный интеллект, правильно - военных. Такие технологии уже имеют место быть. Представьте, что ракета или группа ракет оснащены ИИ. Выбор потенциальной цели, траектории уклонения от... Читать далее
руководитель изостудии при обществе "Знание". темы...  · 2 июл 2021

Возможно потому, что они увидели, что ИИ - это лишь инструмент для естественного интеллекта (ЕИ), который ставит задачи для ИИ. А это - кратное увеличение опасности самоуничтожения ЕИ.

руководитель изостудии при обществе "Знание". темы...  · 29 дек 2020
Думаю, что это связано с последними достижениями в области ИИ. К примеру уже появились самообучающиеся программы, в которых человеку не известно, как они работают. Таким образом чрезвычайно затруднен контроль за происходящими... Читать далее
Люди прекрасно знают как работают нейронные сети. Под фразой "человеку не известно как они работают" имеется в... Читать дальше
Интернет-журналист  · 20 мая 2016
(Могу ответить по поводу Маска.) Летом прошлого года Илон Маск, Стивен Хокинг, Стив Возняк и ещё 1000 специалистов по компьютерным наукам и ИИ подписали открытое письмо, призывающее не использовать искусственный интеллект в... Читать далее

Всё это - фантазии, в основе которых полное непонимание различий в деятельности ИИ и Разума.

Комментатор выше дал один из главных ответов. Стоит сказать, что прекрасно известно, какую быструю фазу роста технологий мы переживаем: экспоненциальный их рост ставит нас перед ситуацией, когда мы можем перестать улавливать и... Читать далее
> Когда AI достигнет своей главной фазы - ASI (Artificial Super Intelligence), мало что сможет спасти нас. С чего... Читать дальше
веб-програмист  · 20 мая 2016
Они боятся утратить контроль. Этот страх свойственен всем людям. А еще никто не знает что такое интеллект и каждый понимает под этим терминами чтото свое. Возможно эти люди представляют ИИ и как "улучшенную" копию себя, более... Читать далее
ИИ ни в коем случае не копия человеческого мозга, поскольку механизмы их работы принципиально различны. Взаимоотнош... Читать дальше
ФИЗИКА,ФИЛОСОФИЯ.  · 2 авг 2021
Абсолютно правильно боятся, поскольку последствия его создания и использования непредсказуемы.Уже сейчас человеческий фактор заменяется фактором компьютерным и сбои в компьютерном управлении различными системами приводят к... Читать далее