Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Стоит ли на самом деле опасаться восстания машин?

ОбществоТехнологии+1
Daria Demekhina
  ·   · 21,8 K
Первый
инженер образовательного проекта «Корпорации...  · 29 авг 2016

Сегодня многие люди этим обеспокоены. Инженеры компании Googleсоздают алгоритмы безопасного обеспечения искусственного интеллекта. Существуют даже специальные фонды, куда вкладываются большие средства для реализации программ по развитию искусственного интеллекта. Так что сейчас профессионалы делают все возможное, чтобы свести возможность так называемого восстания машин к нулю и предотвратить возможность возникновения проблемы.

С другой стороны мы должны понимать, что любое действие, не предписанное определенным алгоритмом, требующее морального усилия, лежит в плоскости свободы воли, свойственной только существам разумным. Проблема восстания машин — это проблема соотношения между каузальным порядком, детерминированностью событий и свободным самоопределением. На представлениях о свободе воли построено представление о личности и ответственности. Волюнтаризм А. Шопенгауэра предполагает волю как «вещь в себе», недоступную для познания и не подчиняющуюся принципу причинности.

Что касается искусственного интеллекта, то так или иначе – это рациональная система, поддающаяся прогнозированию и программированию. Вследствие этого любое отклонение от детерминизма будет являться не проявлением свободы воли, а системной ошибкой. Вероятно, подобные ошибки могут понести за собой плачевные для человека последствия: технологические катастрофы, транспортные бедствия.

Однако, они будут носить скорее очаговый характер. Вспомним хотя бы недавний случай с автомобилем Tesla, который, двигаясь на автопилоте, не смог отличить ехавший навстречу грузовик от окружающей среды. Мы не можем отнести подобный случай к акту проявления свободы воли. Таким образом, восстание машин будет возможно только тогда, когда они будут способны к творчеству и свободному самоопределению, что произойдет, безусловно, еще очень нескоро.

"ошибка" - не носит волевого характера, это стечение неблагоприятных обстоятельств, "ошибка" опаснее "преступления"... Читать дальше
Да, без сомнения. Об этом следует думать. Следует заранее разработать средства, которые помогут снизить (в идеале - предотвратить) возможность неконтролируемого поведения компьютерных систем. Об опасности со стороны искусственно... Читать далее
IT, телеком, телефония, базы данных, интеграционны...  · 5 авг 2016
Безусловно поддерживаю ALEXANDER OVCHARENKO, не смотря на то, что сейчас эта проблема многим кажется забавной, опасаться этого надо с самого начала. Роботы уже сейчас могут быть сильнее нас физически, могут быть быстрее нас... Читать далее
И сам Азимов в некоторых своих рассказах показывает зыбкость этих трёх законов. Что такое "вред", что такое... Читать дальше
любопытствующий человек  · 22 нояб 2017
Всё будет так, как описано в детских книжках Кира Булычёва: люди добровольно  отдадут  творческие функции Искусственному интеллекту, а сами будут  наслаждаться долгой и сладкой жизнью, пока не отомрут, как копчик. Будут... Читать далее
Что за бред, творческие люди никогда не отдадут возможность творить каким-то машинам, для меня лично это кошмар... Читать дальше
Сфера увлечений-все из социальных наук.  · 26 февр 2021
Будем реалистами уже тысячи лет самая главная угроза для человека это другой человек) и так будет ещё очеееень долго. Вы даже не представляете себе насколько пока наши роботы далеки от САМОсознания. Мы скорее успеем сами друг... Читать далее
Нет, разумеется, нет. Терминатор, это же киносказка. Не предупреждение. Зрелище ради денег. Мы нужны машинам. Гораздо лучше показан симбиоз с машинами в фильме Матрица. Машины заботятся о людях. Дают им смысл. Учат и... Читать далее
Экономист и программист-любитель  · 2 сент 2016
У меня от этой темы припекает со второго Терминатора. Почему по-умолчанию подразумевается противопоставление "человек-машина"? Как насчет интеграции? Умные протезы, нейро-интерфейсы, расширение памяти внешними носителями, вот... Читать далее
> Почему по-умолчанию подразумевается противопоставление "человек-машина"? Как насчет интеграции? Ну, одно другому... Читать дальше
Первый
Мы с папой этого не допустим. Мы решали контрольную по математике с помощью ИИ. Он сломался, так и не дав ответ, а мы решили. Так что мы Спасители Мира…
местами экономист, немножко психолог, совсем...  · 22 нояб 2017
Опасаться стоит не этого. ИИ по факту нет, как к алгоритму прикрутить свободу воли никто не знает, как к алгоритму прикрутить систему мотивации никто не знает, так что .... ну может быть появится какой-нибудь гений, который... Читать далее