Нельзя не заметить, что цифровизация набирает обороты, становится все более тотальной, входит во все новые сферы жизни и все больше меняет жизнь людей. Если изначально цифровые технологии служили повышению эффективности производства, автоматизации рутинных операций, повышению прибыли, то теперь, очевидно, что это еще и средство контроля и манипулирования людьми. Венец цифровых технологий - искусственный интеллект (ИИ). Его возможности потенциально безграничны и нет такой сферы жизни людей, где ИИ не мог бы быть полезен и не мог бы взять все под свой контроль. Вследствие этого, ИИ неизбежно становится уже не просто средством, но самостоятельной и исключительно заманчивой целью! Существует некое качественное состояние уровня развития ИИ, когда он ни в чем не будет уступать человеческому разуму и далее уже сможет самостоятельно развиваться и многократно превзойдет своего создателя. Именно достижение этого уровня развития ИИ становится острием всех усилий во всех развитых странах мира. Нет сомнения, что эта цель будет достигнута в обозримом будущем. Что тогда произойдет? Есть ли вероятность того, что ИИ выйдет из под контроля и по своему не понятному людям разумению начнет править миром? Какая-то вероятность этого существует, но очень незначительная и то не из-за ошибки людей, а по злому умыслу какого-нибудь сумасшедшего гения-разработчика. Зато очень велика вероятность, что некая группа людей получив в свои руки невероятной мощи искусственный интеллект, сможет направить его на установление своего абсолютного господства над миром! Цифровая среда, роботы (в том числе и военные), пилотируемый транспорт, дроны, банковские системы, энергетические системы, самые различные производства, интернет - все это представляет готовые средства подчинения, которым никто не сможет противостоять!
Да ИИ - это реальнейшая и величайшая угроза в истории человечества! Но ИИ только средство создания этой угрозы, как и ядерное оружие. Реализовать эту угрозу могут только люди.
Я бы еще предложил назвать тот критичный уровень ИИ, который чреват фатальными событиями в истории человечества - ТЕРМИНАЛЬНЫЙ ИИ.
Терминальный, потому что люди уже не смогут его совершенствовать, он это будет делать сам и, потому, что его создание положит конец одной эпохе и начнет другую.