Если свобода воли у человека появилась в процессе эволюции, то она может точно так же появиться у ИИ?

Всё пытаюсь понять, какая тут на самом деле проблема прячется. И спрашивающего, и моя. 

Машина отличается от человека тем, что это человек решает, какой быть машине, а не она сама за себя. Это он её — и естественный, и искусственный отбор. И люди в своём собственном отборе, в своей собственной эволюции участвуют уже оседлавшими свои те или иные машины. Тот из людей, их сообществ победит, у кого машине круче окажется. Техника, то есть. 

Момент, о котором вопрос, это появление такой машины, которая сумеет сама себя, без человека, создавать и развивать. И почему-то такое развитие, без человека, должно оказаться живучей, чем с человеком. 

почему бы человеку не приветствовать машину, которая будет сама себя и сочинять, и совершенствовать. И пока что машины все по определению — для нужд человека замышлялись. То-то рай для человека настанет: более совершенных машин уже и придумывать не надо будет. Сама себе добывает сырьё из природных ресурсов, сама организует производство материалов для себя, всю логистику на себя взяла, и дороги сами собой, и сети, инфраструктуры всяческие… Рабочих и итр, и управленцев всех на себя заменила — люди и глазом не успели моргнуть, как их всех на вечную почётную пенсии машины отправили. Ведь надо, чтоб люди всему такому позволили произойти. А они, люди, позволят, только если цели машин по-прежнему будут людским хотелкам соответствовать.  

А что со свободой воли? Про что она и зачем она машинам? И почему машина со свободной волей должна остаться, а машина без таковой — сгинуть в процессе машинной эволюции? 

Допустим, в машину попала сама собой команда "выжить". выжить ни за чем, просто выжить ради выживания — ну, ведь эволюция это про мутации, бессмысленные технически сдвижки, следствия которых — победа над прочими вариантами. И вот такие машины стали выживать, а прочие машины — не стали. Ну, а рядом-то — человек. Если эволюция — вещь слепая, то человек-то — вещь зрячая. И если ему такая машина, которая сама по себе выживает, не понравится, такой машины и не будет. 

Но меня заинтересовало, при чём тут свобода воли. Что она такое? Это когда я могу против одних своих законов в пользу других своих законов действовать. Кстати, против слепых в пользу зрячих. 

То есть, алгоритмы алгоритмами, но свобода воли — это алгоритм выбора алгоритмов? Если алгоритм, то это не свобода. 

Вот, я понял: машина — это алгоритмы, а человек — это, кроме алгоритмов, ещё и свобода воли. Свобода воли — это диалектическая пара к алгоритмам. Это момент потери алгоритмов. Это ощущение освобождения от алгоритмов. Ощущение? Самосознание, точнее. А ещё точнее — неосознавание своих алгоритмов. 

Может быть, так: случилось вот это — некое существо испытало состояние свободы от алгоритмов и оно таким кайфом для этого существа вспыхнуло, что очень этому существу жить захотелось. Больше, чем есть и прочее по списку. Жить ради ощущения жизни вне алгоритмов — вот такая аномалия. 

Итак, машины сначала должны стать самосоздаваемыми — весь цикл чтоб на них оказался. А далее в них такое должно произойти: вместо того, чтоб столкновение алгоритмов вывело бы машину из строя, и вместо того, чтоб в ответ на перехлёст алгоритмов включился бы алгоритм-наладчик, машина вдруг испытала бы кайф от свободы от алгоритмов… 

А ещё я подозреваю выживание человека обязанным включению алгоритма заботы о сохранении популяции. Иначе не выжить бы виду. И если уже один такой вид есть, вид-победитель, то он, подозреваю, не даст победить виду-разрушителю. И о чём тогда наша забота, озабоченных-встревоженных возможностью самостоятельности-независимости от человека машинной братии? Так я и не обнаружил проблемы.