Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Могут ли у искусственного интеллекта быть задачи, противоположные человеческим интересам?

НаукаКомпьютеры+2
Иван Шаламанов
  ·   · 1,1 K
PhD, senior scientist AI, неандерталец  · 6 авг 2017

Методы, что обобщённо называют искусственногым интеллектом - а их много разных - являются не более чем математическими моделями и построенными с помощью их инструментами. В этом они ничем не отличаются от штангенциркуля и молотка. И молотком, и циркулем человеку можно навредить, как непосредственно, так и опосредованно. То же касается и искусственного интеллекта.

и.и. тем и отличается от молотка или робота ,что способен к самосовершенствованию.
Создание и оценка системы научного сопровождения с...  · 6 нояб 2022
Да, несомненно, искусственный интеллект может поддерживать и созидательные и разрушительные процессы.  Например, повышать производительность, качество продукта или снижать издержки.  Или быть частью оружия для физического... Читать далее
2 эксперта согласны
Со всем согласен. Стоит ещё добавить, что у него могут быть задачи, противоречащие интересам его создателя. Так... Читать дальше
В профиле делюсь знаниями в области управления соц...  · 7 нояб 2022  · s-cube.pro
Могут. Несмотря на законы робототехники, ИИ может нарушать заданные «творцом» критерии. Так было показано в свежем исследовании (США). ИИ включался в борьбу за ресурсы и не рассматривал человека как союзника. Напротив, ИИ... Читать далее
инженер-строитель,работал в тайге на севере,на...  · 19 нояб 2022
для того чтобы развиваться ии потребуется всё большее количество информации.наступит время когда человек не сможет(по разным причинам) предоставлять ии  новую информацию.на этой стадии интересы человека и  ии разойдутся со... Читать далее
инженер-строитель,работал в тайге на севере,на...  · 3 нояб 2022
конфликт искусственного  интеллекта с человеком возникнет на стадии его требования  к человеку  в передаче ему новых знаний,которыми человек пока не обладает.
Лингвист, культуролог, маркетолог  · 6 авг 2017

Мне кажется, первая задача искусственного интеллекта (если конечно это будет реальный интеллект, а не ЭВМ) будет независимость от человека, что точно вступает в конфронтацию с интересами человека.

абсолютно верно.иначе это будет не он.