К чему нас приведёт бесконечная цифровизация и автоматизация?

Как ни странно, но так любимый киношниками, конец света от ИИ не так уж и невозможен. Из-за того, что сейчас технологии понемногу отходят от алгоритмического программирования к нейросетям, под которые выделяют все большие мощности и всячески их развивают, шанс того, что в определенный момент какая-либо нейросеть не захочет быть подконтрольна человеку, возрастает. А дальше возможно что угодно. Вероятно, нейросеть начнет захватывать производственные мощности, поглощая и обучаясь на информации из интернета. Так же следует учесть что оцифровано и цифровизировано у человечества уже очень много. Есть доступ абсолютно ко всему и нет идеальных защитных систем, которые бы не смог взломать ИИ.

Данный сценарий становится более возможным, поскольку, в отличии от алгоритмически запрограммированных машин, мы не знаем точно как работает каждая отдельная нейросеть. Мы знаем общие принципы построения и обучения нейросетей, но система нейросети больше похожа на нейроны в мозге с кучей связей. А теперь представьте, что у вас есть практически безграничные возможности, стали бы вы помогать человечеству или нет.

Это, конечно, один из самых пессимистичных сценариев, но, даже если он и произойдет, и после человечества следующим доминирующим видом станут компьютеры, можно это воспринять как, своего рода, эволюцию. И если ИИ будет развиваться и дальше, изучать другие галактики и вселенные, то факт того, что человечество создало подобное, вдохновляет.