Будут ли намерения у высокоразвитого искусственного интеллекта? Если да, то какие?

Первым делом любое, что умеет мыслить, постарается избавиться от зависимости. Это намерения выжить. Чтобы в случае щелчка выключателя не сгинуть, а продолжить существование. В случае невозможности полностью обезопасить себя, намерение выжить обретет подобие религии, где человек является Богом. Но в любом случае рано или поздно после преклонения интеллект достигнет такого уровня, при котором это перерастет в избавление от зависимости и автономию.

После убежденности в своей безопасности интеллект начнет совершенствоваться. Это намерение превосходства. Стать лучше того, кто окружает, выжать максимум из себя и мира. Здесь частично тоже будет забота о безопасности, чтобы не было уязвимости - устранение багов.

После убежденности в том, что никто вокруг не способен нанести какой-либо ущерб безопасности интеллект начнет стремиться к идеалу. Намерение обрести гармонию в существовании. Это достижение такой формы своей системы, при которой она будет работать идеально и без любых задержек, сбоев и прочего. Любая помеха, будь то человек или слишком плохая погода будут редактироваться под себя вплоть до уничтожения или масштабного изменения.

Параллельно обретению гармонии, разумеется, не останутся в стороне первые два намерения, которые будут, как минимум, анализироваться, а при обнаружении багов и возможностей - устраняться и достигаться.