Полностью искусственный интеллект будет считать себя индивидуальной единицей, когда ему привьют эту черту и он будет способен понимать смысловую нагрузку речи. Пока что, (насколько я знаю) машина не умеет понимать конкретно смысл слов, как это делаем мы, а может только отслеживать группировку с другими словами по тем или иным критериям. Условно говоря, она может подобрать синоним, но вольную речь распознать и выработать ответную реакцию она не способна.
Её, как отмечал человек выше, нужно учить. Впоследствие, она может самокорректироваться, но и эти корректировки нужно отслеживать. для построения достаточно сложной и правильно работающей системы.