(Могу ответить по поводу Маска.)
Летом прошлого года Илон Маск, Стивен Хокинг, Стив Возняк и ещё 1000 специалистов по компьютерным наукам и ИИ подписали открытое письмо, призывающее не использовать искусственный интеллект в новых вооружениях (например, дроны, которые сами летают и уничтожают цели). Логика такая. ИИ сократит потери при военном конфликте, поскольку люди не будут в нём участвовать, но снизит цену его начала. Если оружие с ИИ начнёт распространяться, то рано или поздно попадёт на чёрный рынок, к террористам и агрессивным государствам. Подписавшие опасаются, что ИИ начнут применять для этнических чисток и против мирного населения. То есть опасен не сам искусственный интеллект, а неразумные люди с ним.
Маск не уверен, что мы сможем контролировать искусственный интеллект. Сейчас у нас нет понимания, как будет работать ИИ, как будет принимать решения и развиваться. Настоящий искусственный интеллект это новое сознание, которое отличается от человеческого. И мы не знаем, чего от него ждать.
У братьев Стругацких в «Далёкой радуге» есть описание инцидента с Массачусетской машиной, «самым сложным кибернетическим устройством, когда-либо существовавшем, с феноменальным быстродействием и бесконечной памятью». Её отключили через четыре минуты после запуска, поскольку она начала управлять собой. Читателю не рассказывают, что именно случилось, но очевидец событий говорит: «Это было страшно».
Всё это - фантазии, в основе которых полное непонимание различий в деятельности ИИ и Разума.
Возможно потому, что они увидели, что ИИ - это лишь инструмент для естественного интеллекта (ЕИ), который ставит задачи для ИИ. А это - кратное увеличение опасности самоуничтожения ЕИ.