Сможет ли искусственный интеллект самообразовываться?

Обязательно сможет. Если он этого не может, значит, он не является интеллектом.

Комментари по поводу ответа Mike Osincef:

создать интеллект нельзя - он должен сам зародиться. И не в один день, а пройти трудный самостоятельный путь развития. <

Интеллект можно создать и провести для него ускоренную симуляцию конкурентной окружающей среды, за время которой у него будет возможность обрести и проверить нужные навыки. Уже сейчас так делают.

Знаменитый Alpha Go (программа, созданная Гуглом), обыгравший относительно недавно чемпиона мира по го (игре с огромным количеством вариантов, которая для программирования сложнее, чем шахматы) учился примерно так, как вы и описали.

Над Alpha Go не работали специалисты по го. Создатели просто вложили в программу правила игры. Это один блок программы. Второй блок - это обучаемая нейронная сеть. Изначально она ничего не знает, как новорождённый ребёнок. Ей дали "посмотреть" десятки (или сотни) тысяч партий лучших игроков в го. В итоге, программа научилась понимать, какие ходы - хорошие, а какие - плохие. После этого программа начала тренировать свои навыки, играя с копиями самой себя. Версии, которые выигрывали чаще, отбирались и играли дальше. Я не помню, сколько партий она (они) так сыграла(и), десятки тысяч или же миллионы партий. Самообучение длилось всего лишь несколько дней. Всё это время она (они) играла(и) без остановки. Через несколько дней Alpha Go набрала достаточно практики и, в итоге, смогла обыграть чемпиона мира.

Итак, "трудный самостоятельный путь развития" был, но он занял несколько дней.

Если у вас получится создать кремниевую форму жизни, которая не захочет умирать <

Это не представляет собой трудности. Ограниченный (его называют "слабый") ИИ уже давно умеет "не хотеть умирать". В компьютерной стратегии компьютерный соперник будет изо всех сил стараться избежать "смерти". Разница только в том, что "мир", в котором этот ИИ живёт - очень прост. В остальном, существенной разницы нет. ИИ нужно будет просто осознать дополнительные "правила игры". Например, что для продолжения "игры" (то есть, своей жизни) он должен физически существовать в виде какого-то компьютера, иметь постоянное наличие электричества и тому подобные вещи. Это, по сути, те же правила, что и (в игре) "жизнь идёт до тех пор, пока стоит главный штаб, если запас "здоровья" штаба подошёл к нулю - жизнь закончилась".

А если скажете, то вызовете у несчастного фатальную депрессию

Фатальная депрессия является ошибкой. Это очевидно. Задача интеллекта - жить (можно сказать "существовать", если термин "жить" не нравится).

Вполне вероятно, что если вы скажете ИИ, что человек - живой, а ИИ - груда металла, ИИ вам ответит: "И в чём разница?". И тут такая штука. Вы ведь при всём желании не сможете объяснить ИИ, в чём разница. Я, например, разницы не вижу. Человека в ответ можно обозвать "бочкой воды". "Однажды бочка воды решила поговорить с грудой металла..."