Представьте себе устройство, у которого несколько входов и один выход. При этом на каждом входе как бы есть ручка настройки, которая ослабляет или усиливает сигнал (на матязыке - коэффициенты, или веса). После усиления/ослабления сигналы суммируются и обрабатываются хитрой функцией. Это - искусственный нейрон. На математическом языке - взвешенный нелинейный сумматор. Если представить его в понятной человеку форме, получится что-то похожее на графический эквалайзер в плейере. Несколько ручек, усиливающие разные части сигнала, и один сигнал на выходе. Если несколько таких искусственных нейронов взять, то это слой нейронной сети. Если слои нейронной сети соединить, так, чтобы все нейроны предыдущего слоя были соединены со всеми нейронами следующего, то это будет уже нейронная сеть с двумя слоями.
Так вот, математически доказано, что если этих слоёв много, и в каждом слое достаточно нейронов, то правильно выкрутив "ручки настройки" у каждого нейрона можно решить почти любую математическую задачу, точнее, научить нейронную сеть ИМИТИРОВАТЬ определённую математическую функцию (в математике используется термин "аппроксимировать")
Главная плюшка нейронной сети в отличии от других методов в том, что она учится на примерах, и нейронной сети не нужно ничего знать о задаче, которую она решает. Вы даёте нейронной сети то, что должно быть на входе, и что при этом должно быть на выходе. Дайте достаточное количество образцов, пар "входные значения - выходные значения", и хитрые математические методы настроят "ручки настройки" на каждом нейроне так, чтобы при получении такого же образца на входе на выходе получалось нужное значение.
Например, задачу распознавания лиц тоже можно считать очень-очень сложной математической функцией. А значит, можно научить нейронную сеть эту функцию имитировать со сколь угодно большой точностью.
Проблема в том, чтобы а) подобрать наиболее удачное число слоёв, число нейронов в слое, правильно выбрать ту самую "хитрую функцию" в самом нейроне и б) придумать более крутой метод подбора весов нейрона (=положения "ручек настройки")