Пока что эта задачка нам не по зубам. А когда будет по зубам, то такие роботы безусловно появятся.
Хорошо это или плохо?
На мой взгляд, хорошо. Нам следует не бояться ИИ и дистанцироваться от него, а наоборот дружить с ним, работать с ним, ассимилировать его. За этим будущее развития человечества. Только представьте себе, какие возможности для познания самих себя у нас откроются, если появится разумный собеседник совсем иной природы!
Рассматривать ИИ только в утилитарном плане (принеси-подай, вымой пол) как раз будет большой ошибкой, так как будет создавать искусственное неравенство между двумя разумными существами, что неизбежно приведет к вражде.
Вставать на позицию "нельзя допускать появления эмоций у ИИ" - это примерно то же самое, что принудительное женское обрезание в диких странах.