Вряд ли искусственный интеллект, технически способный управлять миром, станет с кем-то советоваться по вопросу, можно ли ему это доверить. Он просто выполнит свою функцию.
Это как динозавры прикидывали бы: а можно ли доверить дальнейшую эволюцию млекопитающим?
Доверять управление миром вообще никому нельзя, ни искусственному интеллекту, ни мудрейшему из живущих. Только рабам нужен хозяин, а люди без свободы собственного выбора и возможности альтернативы просто не выживут.
ИИ пока никто не создал, совершенствовать нечего.
Вы обсуждаете то чего в природе не существует. Созданию ИИ пока мешает некоторые фундаментальные особенности построения компьютеров. Так что человечеству до ИИ как до Венеры.
А вы уже наделяете ИИ эмоциями...