Если свобода воли у человека появилась в процессе эволюции, то она может точно так же появиться у ИИ?

@Алина Самарина, разумеется, от человека. Но в дальнейшем, если он не будет сохранен в следующих поколениях, никакой "эволюции" не будет. 

Интересно, что напрашивается аналогия с Создателем. Типа создатель  вдохнул жизнь в машину и самоустранился. 

Но в случае с человеком, мы имеем естественный отбор. Как должна вестись селекция в случае общества машин? Какова мотивация? И чья она?

@олег сазонов, 

>поэтому не знаю можно ли написать программы боли/страдания и удовольствия/наслаждения, которые дали бы возможность машине осознать себя. А без самоосознания это лишь алгоритм некоторых действий.

нужны не только программы, но и рецепторы. Допустим, что и программы и рецепторы уже используются. Ивот мы наблюдаем как робот кричит, топает ногами, убегает… когда его рука в огне. 

Если это случится с человеком, мы "понимаем": человеку больно. 

Если это случается с роботом, мы говорим: это имитация. Он ничего не чувствует, ведь это же всего лишь программа!

Вопрос следует поставить так: в чем разница? Объективно и то и другое - программа (и у человека и у робота). Но почему мы считаем, что у машины нет чувств? А у человека - есть. Ведь чувства другого человека мы точно так же не ощущаем. Мы ощущаем только свои. 

Я не настаиваю, что у машины есть чувства. Может быть это даже более философский вопрос, чем я ожидал. Мы совершенно уверены, что наш субъективный мир существует. И даже животным в этом не отказываем. Но где та граница, те, критерии, за которыми можно более уверенно сказать, что и машина теперь тоже чувствует, ощущает, переживает, имеет свой субъективный мир… ?

@олег сазонов, 

>У человека не программа, а химия. 

Это нюансы реализации.  Так и про компьютер можно сказать: это не программы, а перемещения и взаимодействия электронов. 

>Тропизмы известны и для низших организмов

Конечно известны. И мы это психикой не называем. Так же и с насекомыми. Они автоматы или за их реакциями их психика? Просто очень примитивная и не содержащая тех отделов, которые есть в мозге у нас?

>у высших животных химия действует непосредственно на мозг, а не только на рецепторы

А что нам дает в понимании психики эта "непосредственность"? Объективно - некоторые химические вещества - гормоны, нейромедиаторы, их движения, реакции, превращения… А что субъективно? Если речь о высших животных - мы называем это психикой, субъективным миром, весь спектр от боли до удовольствия. Если спускаемся до насекомых, одноклеточных, растений - это типа уже не психика… так взаимодействия какие-то… тропизмы… Как будто само слово нам нечто объясняет по сути

@олег сазонов, в моем ответе мотивация - необходимое условие для проявления воли. Не в смысле свободы воли, а в смысле потребности действовать. Когда невозможно сидеть на попе ровно.