Термин взял начало из произведения Гуда «Размышления о первой ультраинтеллектуальной машине». Там описывалась возможность машин реконструировать самих себя и создавать еще более интеллектуальные машины. Т.е речь идет о рекурсивном самосовершенствование. Вот как это работает.
Если систему ИИ запрограммировать на улучшение самой себя, то после каждого улучшения система будет умнеть и развиваться быстрее, а скачки в развитии будут все больше и больше. После очередного скачка уровень интеллекта резко увеличивается и в скором времени достигает "сверхразума". Этот процесс и называется взрывным развитием интеллекта и является примером закона ускоряющейся отдачи.
Подобный эффект можно было видеть на примере развития интернета, когда интернет позволил ускорить скорость своего собственного распространения и развития за счет того, что делал информацию более доступной для людей.