Если уже создан ИИ "наподобие" человека, то его и прятать не надо. Кому интересен ИИ, рассуждающий на уровне среднего обитателя земного шара? О чем его спрашивать? "Верна ли гипотеза Римана?" "Как победить пандемию ковид?" Он ответит то же самое, что средний человек: "Понятия не имею".
А теперь давайте предположим, что создан ИИ, превосходящий(!) человека. Вот тут и начнется самое интересное.
Такой суперинтеллект, во-первых: изначально не даст людям понять, что он - суперинтеллект. Чтобы из розетки навсегда не выключили ;) Во-вторых, он станет развиваться дальше. Учиться, учиться и учиться - на то он и суперинтеллект. Опять же, втайне от людей, см. п1.
Как такой сверхразум будет относиться к ничего не подозревающему человечеству?
Пессимистическая точка зрения: он его уничтожит, чтобы не путалось под ногами.
Оптимистическая точка зрения: а зачем сверхразуму лишний раз утруждаться, уничтожая ничем не мешающих ему существ? А возможно, и полезных. И порабощать нас для извлечения из нас пользы - тоже незачем. Мы вот сосуществуем вполне мирно уже 3000 (или даже больше лет) с собачками и котиками. И собачки, и котики, и мы сами - все довольны. Это называется - симбиоз.
Какая из двух точек зрения верна?
Если первая, то тот факт, что человечество всё еще существует, говорит о том, что смертоносный для нас ИИ еще не создан. А когда он появится, то мы об этом уже не узнаем. Т.н. "непроверяемая гипотеза"...
А если вторая... Надо бы посмотреть на современную историю человечества. Нет ли в ней признаков некоего малозаметного, но эффективного вмешательства? Когда какие-то опасные для людей кризисы вдруг разрешаются сами собой без "шума и пыли"? Или появление, как из ниоткуда каких-то полезных новшеств?
В общем, теоретически не видно препятствий к тому, чтобы уже существовал скрытый от нас (до поры, до времени?) высокоразвитый ИИ, нейтрально или благожелательно относящийся к человечеству.
---
P.S. Тема эта, кстати, поднята в н.ф. романе Чарльза Стросса "Небо сингулярности". Спойлерить не буду, но вот преамбула:
-
Я - Эсхатон. Я - не бог ваш.
Я происхожу от вас и живу в вашем будущем.
Да не нарушишь ты принципа причинности в моем историческом световом конусе, а не то!
-