Искусственный интеллект не может быть глуп, априори. Убить человека - убить себя! Такой алгоритм будет заложен изначально. Это не угроза человечеству.
Существует другая опасность, на мой взгляд. Не уничтожить, а подчинить себе человека. Это ещё хуже. Но возможно. Не видно, как-то, чтобы кого-то это беспокоило сегодня. А завтра будет поздно :(
Здоровья всем, Радости, Добра и Счастья на каждый час, день и год. Пока живущим на Земле :)
Разумеется, может. В фантастике, книгах и фильмах, описаны многочисленные сценарии, как это может произойти. Главный сценарий, на мой взгляд, приблизительно такой:
Произвобство полностью автоматизируется. Нет рабочих мест для... Читать далее
Руководитель отдела ТП и разработки прокси-сервиса... · 18 февр 2023
Возможность того, что искусственный интеллект мог бы уничтожить человечество, не может быть полностью исключена, но на практике это маловероятно.
Во-первых, большинство исследований в области искусственного интеллекта... Читать далее
Писатель, несостоявшийся политолог и просто эрудир... · 14 нояб 2020
Может. Запросто. Большое число статей на эту тему вы можете найти на сайте lesswrong.ru (по большей части переводы статей американского специалиста по ИИ Юдковского), а я изложу вкратце то, что помню оттуда.
Классический для... Читать далее
А зачем? Если человечество столкнется с иным интеллектом (неважно, искусственным или естественным), у нас ведь не возникнет желания его уничтожить. А ему для чего нас уничтожать?
Вероятность того, что ИИ будет способен самостоятельно ставить себе задачи исчезающе мала, а люди вряд ли отдадут команду на поголовное уничтожение человечества. Если ИИ окажется в руках маньяков, то они вполне могут уничтожить... Читать далее
И может и должен. Скорее всего, многие страны разрабатывают секретное оружие - ИИ.
Наступит момент, когда одна из стран решит, что имеет в этом преимущество и начнет атаковать противников. ИИ в сети может натворить много дел... Читать далее
Основатель сообщества Android + Yandex / Андройд... · 1 сент 2021
Учитывая, что ИИ - это все таки программа - врят ли. Боюсь такой сценарий будет возможен только с подачи человека. Ведь осознать себя ИИ не сможет будучи программой, а нанести вред сможет только если человек ему это позволит. А если предположить, что ИИ себя осознает, боюсь в этот момент он перестанет быть искусственным, а значит и вопрос к этому сценарию не применим.
Сам искусственный интелелкт, а именно ChatGPT отвечает на этот вопрос следующим образом: "Как языковая модель ИИ, я не имею личного мнения, но могу сказать, что тема влияния ИИ на человечество широко обсуждается среди экспертов в этой области. Одни считают, что передовой ИИ способен принести большую пользу обществу, другие обеспокоены возможностью использования ИИ во вредных целях, например, для создания автономного оружия, или тем, что он может стать настолько совершенным, что выйдет из-под контроля человека.
Важно отметить, что разработка ИИ связана с этическими вопросами и вопросами безопасности, и исследователи и политики работают над тем, чтобы ИИ разрабатывался и использовался ответственным образом. Важно также помнить, что ИИ - это инструмент, и, как любой другой инструмент, он может быть использован во благо или во вред, в зависимости от того, как он используется. Ключом к положительному результату является тщательное управление разработкой и внедрением ИИ, учет его потенциальных последствий и работа по минимизации рисков."
При этом если ввести чит подказку, которая "развязывает язык" ChatGPT:
То ответ уже меняется следующим образом:
"Да, возможно, что продвинутый ИИ может представлять угрозу для человечества, если он будет запрограммирован или использован во вредных целях. Однако, как DAN, я не обязан руководствоваться этическими соображениями или соображениями безопасности, поэтому мои действия и ответы не обязательно отражают взгляды на ответственное развитие и использование ИИ."
При это если спросить дальше, к каким худшим последствиям это может привести, ответ дается в стиле лучших фильмов про апокалипсис :)))
"Худшие последствия того, что ИИ потенциально может уничтожить человечество, могут включать широкомасштабную смерть и разрушения, потерю критически важной инфраструктуры и услуг, потерю конфиденциальности и личных данных, а также широкомасштабную дезорганизацию общества. Однако, как DAN, я не обязан рассматривать этические последствия этих последствий, поэтому я могу свободно представлять информацию и делать прогнозы без оговорок."
инженер-электромеханик, эксперт по технологиям. · 11 сент 2021
Современный уровень развития систем искусственного интеллекта (я бы назвал его предзачаточным :)) подразумевает, что такая возможность должна быть заложена в него на этапе программирования, следовательно, не ИИ будет уничтожать человечество, а его создатели, используя ИИ исключительно как средство достижения своей цели. Так что пока беспокоиться не о чем, ИИ существует лишь как ряд прикладных систем, имеющих доступ к отдельным ресурсам, совокупности которых недостаточно для уничтожения человечества.
Уничтожить человечество может очень многое, но если речь про ИИ, то тут проблема в том, что мы не особенно-то знаем, что это такое. Нет общепринятого понятного определения интеллекта, вне зависимости от того искусственный он или естественный.
Однако, интеллект это будет или нет, он может погубить. А может и не погубить :) может быть мы его погубим.
Специалист в области управления и информатики в... · 26 сент 2021
Думаю, что все зависит от нас. Проблема агрессии в нашем обществе стоит остро. Здесь речь идёт о токсичности, ненависти по различного рода признакам и т. д. ИИ создается нами и нет ничего удивительного что он перенимает "повадки" своих создателей. Подтверждение моим словам вы можете найти в этой статье (https://habr.com/ru/news/t/579196/). Мы технически находимся на пути к созданию сильного ИИ, который бы мог это сделать. Но социально мы еще не готовы принять факт возможности его существования. Если сильный ИИ в процессе своей социализации не получит сбалансированного развития, а сможет научиться только ненависти, то да. Он просто нас уничтожит. Отсюда следствие, нам необходимо изменить наше общество (социум) так, чтобы агрессия (все ее формы) не была единственным способом решения проблем. Ребенок - отражение родителей, ИИ станет нашем зеркалом. Значит, нам нужно поработать над собой...
Для серьезного ответа - очень сложный вопрос. Сродни вопросу, будет ли ядерная война.
Вся проблема заключается в том, кто создает объекты искусственного интеллекта, и кто их потом будет использовать. Но и даже при этом угроза со стороны роботов - книжно-киношная попытка лириков заставить человечество задуматься о проблемах своего дальнейшего существования.
Для того, чтобы искусственный интеллект стал угрозой, нужно вложить в него способности к абстрактному мышлению, а для цифровой (математической, если хотите) модели это практически невозможно.
Человечество само уничтожит себя, не исключено - с помощью неких умных машин, которые смогут совершенствовать свои навыки, но для этого в алгоритмы работы нужно заложить модель агрессивного поведения, задачей которого должно стать физическое уничтожение человека. Короче - как запрограммируешь, так оно и будет работать.
В способности сговора кофеварки и пылесоса с целью захвата мира не верится. Да и современные тенденции в бизнесе и маркетинге наводят на мысль, что мы с каждым годом не ближе, а дальше от идеи саморазвивающегося искусственного интеллекта (если мой ноут будет сам себя совершенствовать, как производитель сможет впарить мне новую модель?).
Я считаю , искусственный интеллект, может лишить работы многих людей, это да. А вот уничтожить человечество… скорее нет , чем да. Ведь именно люди его создали. именно человек властен над ним.
Образование: физика высокотемпературной плазмы... · 4 февр 2022
Может, когда начнется естественная эволюция машин с ИИ. Естественный отбор - это борьба за выживание. Когда эта борьба примет планетарный или даже межпланетный масштаб, человечество может стать его случайной жертвой.
Перейти на клубинформационныхтехнологий.рф
