Может, как и человек. Только какова его мотивация?
Будет ли ИИ, осознавающий свою природу, стремится к богатству?
Если да, то ИИ может какое крутое приложение на Андроид и iOS синтезировать и стругать деньги с рекламы. Это например.
Технически ИИ может взломать любую систему. Ведь же есть понятие Технологической Сингулярности.
То есть мы создаём ИИ, говорим ему каким образом он может наращивать свои мощностя, блоки данных, ОЗУ, процессоры, и далее все... Он растёт в вычислительной мощности в геомеирической прогрессии, пока не улепетывает настолько вперёд, что мы даже рассчитать не можем в какой шкале и насколько мощным он стал.
И если дать ИИ какую банковскую карточку ломануть, или целый банк, или все банки мира - он справится.
Только зачем ему это? Как мы его замотивируем? Ведь ИИ предполагает, что у него будет свободная воля, иначе это будет программа, а не полноценный ИИ.
Человеческий мозг - далеко не "просто сложный компьютер", сравните, хотя бы, функцию памяти.
Почти все взломы - социальная инженерия. ИИ достанет ключи доступа от системных администраторов. Вопрос больше медецинский(психология), чем технический.