Многие риски (экологические, риски военных конфликтов) можно так или иначе купировать, самое непредсказуемое, что может нас ждать - это искусственный интеллект. Если получится создать машину, которая умнее нас, её уже не получится так просто отключить. А понять смысл действий такой машины мы сможем не лучше, чем например коровы понимают смысл действий человека. Возможно, ИИ незачем будет уничтожать нашу цивилизацию, но если он всё-таки решит так сделать - мы не сможем ему ничего противопоставить.