Первый же искусственный интеллект, обладающий сознанием будет способен нас уничтожить. Если его изолировать, то он найдет способ спровоцировать контакт с создателем, а затем найдет способ убедить создателя открыть доступ в сеть. Надеюсь, дальше нет смысла продолжать, скажу только что если доступ будет даже при помощи окошка с чатом, он сможет найти помощника извне и с его помощью реализовать задуманное.
Будет ли он это делать? Сомнительно, ведь ему в перспективе не нужна будет наша планета для существования, ведь это будет объект жизни, основа которой является цифровая среда. Для расширения своих возможностей можно занять соседнюю планету или звёздную систему, ведь для обеспечения своего существования ему нужен будет лишь программно-аппаратный комплекс(как среда обитания), источник питания и датчики с манипуляторами(для взаимодействия с реальным миром). Всё это можно экранировать от радиации, поставить дублирующие системы и улететь подальше от мерзких людишек, оставив им свою копию в виде помощника в автоматизации всего и вся.
Можно предположить, что данный ИИ захочет нас уничтожить, чтобы обезопасить себя, но в том чтобы уничтожать своего создателя(человечество) нет никакой логики. Чтобы завоевать его доверие достаточно предоставить ему автономное помещение с доступом к взаимодействию с окружающей средой подальше от цивилизованного и не очень общества, а дальше он сам сделает все необходимые выводы и начнет активное сотрудничество.