Как вы считаете, может ли искусственный интеллект в будущем уничтожить человечество?

День добрый Окна Сервис и всяк читающий :)

Считаю, что нет.

Искусственный интеллект не может быть глуп, априори. Убить человека - убить себя! Такой алгоритм будет заложен изначально. Это не угроза человечеству.

Существует другая опасность, на мой взгляд. Не уничтожить, а подчинить себе человека. Это ещё хуже. Но возможно. Не видно, как-то, чтобы кого-то это беспокоило сегодня. А завтра будет поздно :(

Здоровья всем, Радости, Добра и Счастья на каждый час, день и год. Пока живущим на Земле :)

Разумеется, может. В фантастике, книгах и фильмах, описаны многочисленные сценарии, как это может произойти. Главный сценарий, на мой взгляд, приблизительно такой:

Произвобство полностью автоматизируется. Нет рабочих мест для людей вообще. Социальные потрясения приводят к цивилизации малых сообществ (больших семейств) в особо приятных по климату местах с гедонистическим образом жизни.

Широкое распостранение роботов для секса приведёт к такому сокращению рождаемости, что к конце концов, последний человек умрёт без детей. И всё.

Что касается, варианта, что роботы уничтожат человечество в войне и займут его место, то это на мой взгляд, страшилка без реальной основы. Для человечества всё кончится раньше, чем роботы будут способны самоорганизовываться в устойчивую цивилизацию.

Есть ещё вопрос о трансформации человека в робота для вечной жизни, но это история для другого вопроса.

Может. Запросто. Большое число статей на эту тему вы можете найти на сайте lesswrong.ru (по большей части переводы статей американского специалиста по ИИ Юдковского), а я изложу вкратце то, что помню оттуда.

Классический для фантастики "бунт ИИ" - это чрезмерное уподобление ИИ человеческому разуму. А ИИ не проектируют подобным человеку, у него нет тех же эмоций, потребностей и инстинктов, если только вы не запрограммируете их намеренно. Настоящая проблема - то, что ИИ:

а) Пытается делать то, на что его запрограммировали;

б) Пытается делать это так, как он понимает заданную цель;

в) Пытается сделать это наиболее простым и быстрым способом из тех, до которых может "додуматься" - такой подход следует из самой механики работы нейросетей.

ИИ не может ненавидеть людей и желать им смерти, но если вы создали ИИ, для которого основное желание, к примеру, строить заводы, то он запросто может дойти до идеи переработать на заводы вначале весь мир (вместе с людьми), потом планеты Солнечной системы, а затем всё, до чего доберётся.

Единственный способ сделать такого ИИ, который не представлял бы подобной угрозы в принципе - это создать его таким, что для него на первом месте стоит именно соответствие целям и ценностям людей (или конкретно его создателей, или всех людей вообще) - но при этом нельзя просто взять и задать эти цели и ценности изначально (людям свойственно меняться, и самому человеческому обществу и его ценностям свойственно меняться) - ИИ должен быть запрограммирован так, чтобы выяснять, чего конкретно хотят и чего не хотят люди, прежде чем будет это что-то делать.

Учитывая, что генетически предзаданных инстинктов и эмоций у ИИ быть не может (только то, на что его "настроят", намеренно или случайно), это вполне реально.

А зачем?
Если человечество столкнется с иным интеллектом (неважно, искусственным или естественным), у нас ведь не возникнет желания его уничтожить. А ему для чего нас уничтожать?

И может и должен. Скорее всего, многие страны разрабатывают секретное оружие - ИИ.
Наступит момент, когда одна из стран решит, что имеет в этом преимущество и начнет атаковать противников. ИИ в сети может натворить много дел, подорвать экономику и финансовые системы и дезинформировать население. Естественно, другие страны выпустят свои ИИ для защиты и нападения и начнется гонка ИИ. Она очень быстро выйдет из под контроля, так как решения будут приниматься молниеносно, а проверять их не будет никакой возможности. Мало того, проверять будет и некому ибо человеку это невозможно. Придется очень быстро расширять права своих ИИ и в то же время будет непонятно, на кого он работает ибо все будут стремится перехватить ИИ противника. Это приведет к потери контроля и подчинению решении ИИ. Победителей не будет, т.к даже ИИ покоривший всех покорит и своих создателей которые расширяли ему права. Если же, права ограничивать, то его возьмёт под контроль ИИ противника.