Я не думаю, что к ИИ можно будет применить такие категории как хорошо/плохо. Обладая всей полнотой знаний, ИИ, скорее всего, выберет единственной целью-это саморазвитие и максимальный прагматизм для достижения этой цели. То есть, то что для Вас социально неприемлемо, для ИИ будет способом достижения поставленной задачи. Это все равно что первобытные люди будут выбирать морально одобряемые цели для выживания в окр. среде. А именно так себя будет чувствовать новоявленный ИИ.