Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Растёт ли вероятность восстания против человека боевых машин, способных принимать решение, при увеличении количества этих машин?

Ситуация, описываемая в вопросе, - условная.
МатематикаФантастика+3
Михаил Пономаренко
  ·   · 2,2 K
Да, растет. Эта вероятность зависит не от количества машин, а от количества программистов, их программирующих. Но, поскольку с ростом числа машин растет количество и программистов, среди которых есть уроды, подобные Герострату, или пишущие вирусы, то инциденты неизбежны.
Приведу пример с "голосовым помошником" "Алисой" от Яндекса. Ее принудительно везде втюхивал Яндекс для слежки за людьми, сбора информации о частной жизни, составления психологических портретов. При мне моя мать стала спрашивать у "Алисы", как от нее избавиться (достала совсем, начинает вмешиватиься в разговор по Скайпу и т.д.), и в ответ - получила достаточно прозрачную угрозу. 
"Алиса" сама не способна додуматься до угроз.  Программист "Яндекса" заложил в программу - при определенных ситуациях совершить определенные действия. Угрожать человеку. И, возможно, выполнить угрозу - уничтожить данные на компе, запустить вирус.
То же самое с "восстанием машин". Машина не способна восстать. Она просто не понимает, что это такое. Для того, чтобы понять, она должна вести человеческий образ жизни. А вот выполнить в определенных условиях действия, заложенные в программе - совместными усилиями уничтожить человечество - запросто.
1 эксперт согласен
к.ф.м.н., доцент МФТИ, с.н.с. Института Проблем...  · 24 июл 2022
Именно "восстания" на данный момент мне кажется, что нет. Всё-таки восстание это не просто скоординированные действия, но действия осознанные с определенной целью. То есть не думаю, что машины обладают сознанием достаточным для... Читать далее
Математика, политика, высшая школа и хейт спичПерейти на t.me/forodirchNEWS
1 эксперт согласен
Инженер, делаю производство технологичнее  · 17 мая 2022
Вероятность не зависит от количества, а напрямую зависит от заложенной в машину программы. В мире миллиарды мультиварок, но вероятность их восстания не зависит от их количества. Однако если по вашему условному сценарию эти... Читать далее
Человечки, взяв умные киянки,добьют друг друга. Через год,через век, через миллениум,это неизбежно произойдет.Произ... Читать дальше
Хобби - математика, физика, астрономия, музыка...  · 23 июл 2022
Нет. А вот качества(ПО, искусственный интеллект) - да. Пример : - ситуация с корпорацией Боинг, где они вынуждены были поменять ПО. Ну и всем известный Т9(текстовый редактор - вроде не боевая машина, а гнёт свое). При программир... Читать далее
1 эксперт согласен
Миша Корман
подтверждает
23 июл 2022
Согласен с главным "нет". Но хотелось бы сказать пару слов в защиту математики. Она не занимается причинами и... Читать дальше