Несомненно сейчас эпоха расцвета нейросетей. Я бы сказал, что всё интересное, что сейчас происходит в машинном обучении, происходит именно в нейронных сетях.
Изначально полносвязные нейросети давали неплохие результаты, но они конкурировали с деревьями решений, которые гораздо легче настроить, а качество обучения было схожим. Но потом стали придумывать разные архитектуры нейронных сетей, которые стали давать результаты недостижимые для других алгоритмов: рекуррентные нейронные сети, свёрточные, графовые. С нейросетями реализовали перенос обучения. Придумали концепцию внимания, появились трансформеры. Всё это сделало их лучшими алгоритмами для многих классов задач, например: распознавания изображений, речи, перевод текстов на другой язык. И в последние годы именно в нейронных сетях продолжается бурное развитие.