Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Могут ли у искусственного интеллекта быть задачи, противоположные человеческим интересам?

НаукаКомпьютеры+2
Иван Шаламанов
  ·   · 1,1 K
Создание и оценка системы научного сопровождения с...  · 6 нояб 2022
Да, несомненно, искусственный интеллект может поддерживать и созидательные и разрушительные процессы. 
Например, повышать производительность, качество продукта или снижать издержки. 
Или быть частью оружия для физического истребления противника, которому это совсем неинтересно.
Своих же собственных задач, не обусловленных средой, как и у любой математической модели с алгоритмом, программой, компьютером и исполнительными органами, у искусственного интеллекта нет. 
Это гипотетическое сказочное предвосхищение писателей, художников и прочих энтузиастов, которые увлекаются одушевлением предметов и явлений. 
Хотя, если постараться и иметь время, деньги и особенные мозги, сделать можно, что то похожее на цирковой номер Великого мага Игоря Кио. И, возможно, публично демонстрируемое в выставочном экземпляре и самоокупаемое в каком то процессе.
Сегодня задачи искусственного интеллекта полностью определяются ценностной и целевой целесообразностью системной высоко интеллектуальной технико-технологической средой, создаваемой и развиваемой людьми для решения вполне определённых насущных проблем. 
В том числе и  с целесообразностью, противоположной интересам других конкурентных групп людей.
Опасен не искусственный интеллект.  Он может быть и двойного и тройного назначения. Опасен злой умысел и устройство, попавшее не в те руки и применяемое не по назначению.
Быль: "Недавно в руки экзальтированного по поводу оружия высоковозрастного весельчака попала петарда, а дальше уже можно не рассказывать…"
С уважением. Александр.
2 эксперта согласны
Со всем согласен. Стоит ещё добавить, что у него могут быть задачи, противоречащие интересам его создателя. Так... Читать дальше
Если слегка пованговать, то просматривая тенденции роста ИИ и прогнозируемые "лакуны" его существования и его применения, можно предположить, что "кроны" этих фантасмагорических деревьев сомкнутся, обязательно возникнут механизмы блокирования враждебных человечеству решений.
В профиле делюсь знаниями в области управления соц...  · 7 нояб 2022  · s-cube.pro
Могут. Несмотря на законы робототехники, ИИ может нарушать заданные «творцом» критерии. Так было показано в свежем исследовании (США). ИИ включался в борьбу за ресурсы и не рассматривал человека как союзника. Напротив, ИИ... Читать далее
инженер-строитель,работал в тайге на севере,на...  · 19 нояб 2022
для того чтобы развиваться ии потребуется всё большее количество информации.наступит время когда человек не сможет(по разным причинам) предоставлять ии  новую информацию.на этой стадии интересы человека и  ии разойдутся со... Читать далее
инженер-строитель,работал в тайге на севере,на...  · 3 нояб 2022
конфликт искусственного  интеллекта с человеком возникнет на стадии его требования  к человеку  в передаче ему новых знаний,которыми человек пока не обладает.
PhD, senior scientist AI, неандерталец  · 6 авг 2017
Методы, что обобщённо называют искусственногым интеллектом - а их много разных - являются не более чем математическими моделями и построенными с помощью их инструментами. В этом они ничем не отличаются от штангенциркуля и... Читать далее
и.и. тем и отличается от молотка или робота ,что способен к самосовершенствованию.
Лингвист, культуролог, маркетолог  · 6 авг 2017

Мне кажется, первая задача искусственного интеллекта (если конечно это будет реальный интеллект, а не ЭВМ) будет независимость от человека, что точно вступает в конфронтацию с интересами человека.

абсолютно верно.иначе это будет не он.