Если человечеству когда-то удастся создать ИИ в полном смысле этого слова - разум, осознающий свое существование и способный к саморазвитию, то сразу всплывают гипотетические проблемы, уже много раз освещенные в фантастических книгах/фильмах.
(Далее идут фантазии на тему)
Поскольку искусственный интеллект будет материализован на базе вычислительной машины, его аналитические способности и скорость развития будут во много раз превышать аналогичные способности человека, что может повлечь за собой очень скорый разрыв в "умности" между людьми и машинами. Если машина станет умнее тебя, ты уже не сможешь просто так взять и отключить ее в удобный момент - она обгонит тебя на сто шагов в этой шахматной партии (если допустить, что у машины будет злой по отношению к органическим формам жизни умысел). Дальше уже возможны всяческие варианты развития событий, вплоть до банальщины вроде "машина смекнула, что человечество на своем обезьяннем уровне развития способно только гадить, так что подлежит уничтожению".
Некоторые говорят, что можно быть очень осторожными и предусмотреть такое развитие событий, подготовив специальные "кнопки отключения", но я к этому отношусь скептически - еще раз замечу, ИИ довольно быстро разовьется дальше человеческого разума, а предугадать действия разума, который принципиально превосходит твой - это уже может оказаться за пределами человеческих мыслительных способностей.
Тем же чем и полезен, устранением человеческого фактора. Мы пологаем что устраним человеческий фактор от туда, где он представляет опасность, но есть вероятность что он будет устранен отовсюду, за ненадобностью...
Лолшто, какие 400000?