Этого никто не знает. И еще не скоро узнают.
Вернее так, до тех пока не сделают полноценный ИИ, ответить на этот вопрос невозможно.
В настоящее же время не существует программ, которые могли бы сами себе задавать цели, ну или делать что-то "специально" - их действия очень жестко установлены людьми.
Чтобы было чуть понятней : сейчас шахматная программа может играть только в шахматы и ни во что более, программа по игре в Го может играть только в Го и ни во что более, интеллектуальная программа-переводчик может исключительно переводить и вообще никак, вот совсем никак не может делать что-то другое (хотя это реально крутая программа).
Нет у людей понимая как сделать программу, которая могла бы хоть что-нить сделать "специально" по своему усмотрению. Ошибиться - это запросто. Сиимитировать свободный выбор через хитрый алгоритм - это можно. Сделать так чтобы ИИ сам хоть на миллиметр отклонился от заданного людьми курса - пока не получается.
Поэтому вы можете быть уверены на 100% в том, что если шахматная программа написала вам "давай сыграем в крестики-нолики", то значит это программист встроил такую функцию в программу, и никак иначе.
Ну или если робот начнет целенаправленно убивать людей, это 100% значит что на самом деле его действия заданы маньяком-программистом. Ну или не маньяком а террористом, тут уже есть простор для полета фантазии.
Нет, только если его изначально запрограммируют на это.
Есть ютуб канал "Топлес", и у него есть видео про ИИ.
И как раз он рассказывает про ИИ, и может ли он убивать специально
Это про слабый искусственный интеллект, а про сильный вопрос остаётся открытым.