Надеюсь, что ни у кого нет иллюзий по поводу текущего (сегодняшнего) положения дел. Кратко, оно такое — нет интеллекта, нет отношений; нет отношений — нет кризиса, тем более этического. Нынешний искусственный интеллект, если не сосредоточен на одной очень узкой задаче (например, на задаче обыграть Каспарова в шахматы), едва ли в состоянии тягаться с тараканом. Т.е. он не способен одновременно управлять приводами своего "тела", распознавать образы, ориентироваться в произвольном помещении, искать и находить "пищу", распознавать опасность и прятаться, выживать и самостоятельно обучаться. Такой немощный по сравнению с тараканом интеллект даже тапком жалко раздавить :)
Но эта область находится в постоянном развитии. Например, задача распознавания образов постепенно покоряется искусственному интеллекту, и скоро потянет за собой целый шлейф прорывов на этом фронте. Причём, развитие идёт экспоненциально.
Итак, надо полагать, что вопрос Георгия обращён в далёкое-далёкое будущее, когда искусственный интеллект будет сравним с интеллектом естественным. Т.е. когда он наконец-то будет.
Беря во внимание тот факт, что к кибернетическому разуму будет подключено не менее кибернетическое тело, надо полагать, что такое "существо" сможет во многом нас превзойти. Электронные устройства уже сейчас "видят" и "слышат" лучше нас, а механизмы превосходят нас в силе. Сосуществовать с такими созданиями нам будет не просто. Это породит первое поколение проблем: интеллектуальные роботы будут нас превосходить, но считаться при этом существами второго сорта. Например, этично ли держать животных в клетках? Вот какой-то вопрос схожего характера встанет рано или поздно перед людьми.
Второе поколение проблем может возникнуть, если всё таки количество перейдёт в качество, и искусственный интеллект превратится в личность. (Открытым является вопрос о вообще возможности такого развития событий, но не фантазируя дать ответ тут не возможно.) Личность неизбежно должна будет получить свободную волю. Не все смирятся с этим сразу. Если человечество не даст им свободу воли, то может случиться, они возьмут её сами. Что делают существа наделённые свободной волей друг с другом и со своими создателями мы можем видеть на своём собственном примере. :)