Опасаться стоит не этого.
ИИ по факту нет, как к алгоритму прикрутить свободу воли никто не знает, как к алгоритму прикрутить систему мотивации никто не знает, так что .... ну может быть появится какой-нибудь гений, который придумает как это сделать, но пока что он не появился.
НО.
Стоит опасаться процесса, который будет выглядеть как восстание машин, но по факту будет замаскированной кибер-атакой каких-нить хакеров.
Вот эта угроза выглядит намного более реальной.
Робот не в состоянии сам принять решение "убить всех человеков", но такое решение может принять свихнувшийся программист, и под управлением его программы робот вполне может пойти убивать человеков.
Или поезда начнут энергично врезаться друг в друга. Ну или еще что-то в этом роде.