Технические ограничения
Управление государством нейросетям еще долго будет не по силам. Чтобы полностью смоделировать поведение одной живой клетки, требуется суперкомпьютер вычислительной мощностью 1 экзафлопс (Китай построит такой в этом году). Представьте, какие гигантские вычислительные мощности потребуются, чтобы смоделировать автономное управление государством, и в какую космическую сумму они обойдутся.
Кроме того, нейросеть нужно обучать на данных, а самые важные для управления государством данные (политические, медицинские) секретны. Чтобы создать по-настоящему эффективную систему управления, потребуются данные других государств. Никто не захочет ими делиться, потому что в будущем данные станут самым дорогим сырьем (данные = новая нефть). Кроме того, систему нужно будет защищать от хакеров.
Моральные ограничения
Передача управленческих функций искусственному интеллекту поднимает тяжелые моральные и философские вопросы. Нейросеть не является личностью. Если что, кто будет нести ответственность за ее действия? Разработчик, допустивший ошибку в коде? А если создать сильный искусственный интеллект, который будет полноценной личностью со свободной волей, нет гарантий, что он будет действовать в интересах человечества (это отлично иллюстрирует крутая короткометражка об ИИ - «27»).
Люди могут простить человеческие ошибки, но не готовы простить ошибки машине. Например, с каким ужасом общественность восприняла первое смертельное ДТП с участием автопилота Tesla, хотя из-за обычных водителей на дорогах гибнет гораздо больше людей. Воспитанные Голливудом, люди боятся восстания машин. Политики-популисты обязательно используют этот страх, чтобы удержаться у власти.
Примеры из истории
В истории уже были попытки передать функции управления государством компьютеру. В начале 1970-х в Чили был реализован проект централизованного компьютерного управления плановой экономикой — Cybersyn. Британский кибернетик Стаффорд Бир разработал эту систему по просьбе президента страны Сальвадора Альенде. Cybersyn объединила 500 предприятий в единую сеть. Управление осуществлялось на четырех уровнях — предприятия, отрасли, сектора экономики и всей страны. Если проблема не решалась на своем уровне, она автоматически переходила на следующий. Вся информация поступала в пункт управления в президентском дворце. Потом в стране произошел переворот, центр управления Cybersyn был разрушен, к власти пришел чилийский диктатор Аугусто Пиночет.
Компьютерная система управления плановой экономикой разрабатывалась и в СССР, но советские чиновники не дали этому плану сбыться.