Интеллектуальные машины отличаются сложной реакцией на задачи и вызовы, которые предъявляет внешняя среда. В поведении ИИ учитывается большое количество условий, ограничений, критериев и результатов собственного опыта (обучения ). Нейросеть, реализующая сложное поведение системы, напоминающее поведение человека, должна быть определенным образом структурирована. В ней должны содержаться узлы, соответствующие объектам, с которым система сталкивается и которыми оперирует. Например, интеллектуальная машина должна "знать", что такое человек, уметь его распознавать, соблюдать ограничения во взаимодействии с человеком, чтобы не нанести ему вред и т.д. В общем вести себя в соответствии с тремя законами робототехники, которые когда-то сформулировал Айзек Азимов. Аналогично, в "мозге" ИИ должны существовать распознаватели и соответствующие им узлы "узнающие" предметы быта (если это робот), специфические ситуации. различные сочетания признаков и т.д. На сегодняшнем уровне развития ИИ названные "умения" не кажутся совсем уж фантастическими. Про все объекты, наполняющие "внутренний мир" ИИ мы можем сказать, что он их осознает. Например, он может о них "думать", когда производит поиск решения, связывать с некоторыми из них сигнал (чувство) опасности, а в отношении других - генерировать сигнал (чувство) влечения. Если среди названных объектов есть он сам, то ИИ сможет "думать" и о себе, то есть осознавать себя. Так что я бы не согласился с тезисом, что ИИ не может себя осознавать.
Вообще, в обыденном сознании существует некоторая сакрализация таких чисто человеческих проявлений, как чувственность, самосознание, доброта, вдохновение, альтруизм и проч. Считается, что бездушные машины в принципе не могут обладать названными качествами, что это свойство и прерогатива только человека. Но это не так. Ведь все проявления человеческой "души" имеют в своей основе чисто материальные процессы, которые можно смоделировать. И наделить ими робота.