Сможет ли искусственный интеллект руководить Россией?

В далеком будущем — да. В ближайшее время — нет. Управление страной — это комплекс сложных задач. Это не то, что хорошо умеет делать искусственный интеллект. А хорошо умеет он оптимизировать простые задачи, отличать фотографию собаки от фотографии кошки. Управление государством — куда более сложная вещь. Туда включена и наука, и культура, и здравоохранение.

В 70-е годы в Чили был опробован альтернативный способ правления. Сальвадор Альенде заказал систему Киберсин — кибернетическое управление страной, которая решала задачи даже лучше плановой экономики и рынка. Но Киберсин был построен на том, чтобы соединить людей кибернетической системой. Не искусственным интеллектом, а человеческим, но усиленным. Это работает существенно лучше, чем искусственный интеллект.

Проекты по управлению искусственным интеллектом через большие компьютерные системы очень часто не срабатывают. Когда Герман Греф говорит, что Сбербанк будет строить города будущего, это звучит очень красиво. Но на практике это сделать нельзя, так как ученые и программисты еще не создали искусственный интеллект, который мог бы думать. Мы хорошо умеем компьютеризировать отдельные виды деятельности, но не умеем создавать универсальный искусственный интеллект. Управление автомобилем, распознавание образов, синтез речи — да. Чтобы все работало вместе — тут сложности.

Плюсов у искусственного интеллекта-президента нет. Это может ускорить гибель человечества. Крупные проекты, где что-то переводится на оптимизацию, не дают сверхбольшой отдачи. Я не стал бы полагаться на искусственный интеллект практически ни в одной области. Программы, помогающие человеку принять решения — это другое дело. Но они должны быть направлены именно на усиление естественного человеческого интеллекта.

Характер — это свойство личности в целом. Это не один параметр, который можно отрегулировать, вроде доброты — больше/меньше. Это совокупность мыслей и представлений, которые в разные части личности подключены. Сейчас у всех искусственных интеллектов и умных помощников, амазоновских-эппловских-гугловских, нет характера, есть его имитация. Эта имитация даже меньше имеет отношение к характеру, чем характер у домашних животных.

«Яндекс» так же, как и Google – технократы, которые на все проблемы смотрят как на технические. Они не понимают, что есть гуманитарные аспекты. Вы наверняка сталкивались с навязчивой рекламой «Яндекс.Браузера». Яндексовским технократам кажется, что все пользователи должны поставить «Яндекс.Браузер», и только тогда они будут счастливы. А для пользователей значим вопрос свободы и выбора. Поэтому когда мы когда доверяем сложные вещи «Яндексу», это может закончиться плохо. Управление государством — не то, что я готов доверять «Яндексу».

Первый указ искусственного интеллекта будет еще более бессмысленным, чем некоторые законы Госдумы, за которые мы называем ее «безумный принтер». Если у искусственного интеллекта нет понимания, а есть только владение формой, указ будет выглядеть вроде и нормально, но будет представлять из себя полный нонсенс. Мы не сможем даже понять, что делать в этом случае. Соблюдение существующих законов, работа по алгоритму — то, где искусственный интеллект может хорошо справляться. Если бы мы взяли закон и объяснили искусственному интеллекту, он может по нему работать. А составить свой закон — творческая задача и работа программирования социума, а не компьютера. Первый текст будет состоять из букв, слов, даже читаемых предложений, но смысла в нем не будет.

Любое совершаемое человеком нарушение нужно анализировать умом: что это за нарушение и когда оно может быть оправдано. Искусственный интеллект не владеет полутонами. Он не понимает, что нарушение может быть оправдано. Новый закон переписывает программу общества: раньше считалось нарушением одно, теперь другое. Это задача метапрограммирования или автопоэзиса, когда система может переписывать сама себя. Это умеют делать не все люди, а программа этого не сможет сделать совсем. Есть такой сценарий: если попросить искусственный интеллект привезти скрепок для офиса, то он может решить, что эта задача — самая важное во вселенной и не сможет остановиться, превратит всю материю в скрепки, включая заказчиков. У искусственного интеллекта нет чувства баланса, справедливости, понятия масштаба, которые есть у самого бессмысленного депутата, которого мы критикуем. У него больше понимания хорошего и плохого, чем у искусственного интеллекта. Искусственный интеллект не умеет сейчас писать законы и принимать решения. Выполнять решения — да. Его можно заставить искать логические противоречия в текстах. Например, в базе «Консультант Плюс». Такая механическая деятельность возможна.

Через 100 лет ситуация поменяется. За 100 лет мы разберемся, как работает наш собственный интеллект, научимся его менять, улучшать и воспроизводить. Но пока этого не произошло, не надо антропоморфизировать искусственный интеллект из-за того, что он похож на человека.