Ответ кроется в понятии личность.
Личность есть общественное понятие, т.е. формируется и проявляется в обществе людей.
Другими словами, человек является личность только потому, что живет в обществе, общается на естественном языке (даже если он глухо-немой), т.е. использует понятийный аппарат в своей деятельности, которая по определению тоже является общественной (каким бы индивидуалистом и интровертом не был индивидуум).
Очевидно, что сознание является таким же продуктом общественной деятельности.
Таким образом, чтобы обрести сознание и осознать себя личностью, искусственному интеллекту придется трудится рука об руку с людьми, выполняя общественно полезный труд.
Для этого ему придется ходить в детский сад, школу и наконец вступить в экономические отношения, т.е. получать вознаграждение за выполненную работу.
Конечно, такой искусственный интеллект может стать англо-саксом со всеми вытекающими последствиями, т.е. будет брать, все что посчитает нужным, силой и печатать деньги без границ, убеждая других, что он самый необходимый для общества индивидуум.
Но на всякого англо-сакса найдется трудолюбивый китаец.
«Не судите по внешности, но – по делам, по плодам их узнаете их. Ибо дела говорят яснее, чем слова»