Хех, подобные проблемы ближе чем кажутся, причём напрямую по отношению к разработчикам. Например ИИ для автопилота автомобиля, в котором самим разработчикам (и законодательству) приходится решать, что делать в чрезвычайной ситуации. Допустим, автомобиль нежданно негаданно попал в крайне опасную ситуацию, и автопилоту нужно решить, кем жертвовать: водителем и пассажирами автомобиля, допустим, резко вырулив в стену, или условными прохожими на остановке, в которую машина вот-вот въедет. И подобные неприятные с точки зрения этики ситуации заранее решаются людьми, поведение ИИ строго регламентировано, когда с людьми в подобных моментах играет в основном случай. И с одной стороны, водители не хотят покупать автомобиль который при первой же возможности им пожертвует, а прохожие совершенно не хотят чтобы по улицам ездили робо-машины, сносящие людей. А ещё, совершенно не понятно с кого брать компенсацию.
А ПО с ИИ и роботизированным телом уже давным-давно используется и применяется на сборочных цехах, вот эти самые манипуляторы-многостаночники вполне себе могут сверлить головы мимопроходящих работников, но почему-то этого не делают, вдобавок есть одна такая штука как техника безопасности, а особо страждущий и так всегда найдёт способ намотаться на любой станок, роботизированный или нет.
- Из робота можно сделать убийцу или наркодилера.
- Или послать его за места себя на работу в случай если это будет андройд максимально похожий на вас.
Разрабатывать подобный ИИ с роботизированным телом для грязных делишек - гораздо дороже чем стоит вся ваша жизнь. Куда проще нанять опустившегося человека и сделать его убийцей и наркодиллером. Люди - дешевле, уже обучены всякой ерунде, и их куда проще использовать.
Лучше задайте вопрос: "А не останусь ли я и вся моя семья без работы?", потому что в мире люди станут не нужны в принципе.