Нет никакой принципиальной разницы в понимании нервной системы, или фундаментальной физики, или сложнейшей электронной техники, или молекулярной биологии, любых передних фронтов познания разных предметных областей.
Но в случае с пониманием организации нейросетей еще и в том, что ее исследователи применяют совершенно неверный, бессистемный методологический подход. Известно как зависит простота и естественность описания от выбора точки отсчета. Так вот, нейросети нужно понимать в точность по тем же принципам, что и любую другую схемотехнику (в том числе электротехническую), т.е. в первую очередь нужно стать специалистом по схемотехнике. Вот пусть попробуют маститые ученые-биологи понять как работает телефизор. Все их методы изучения проводов, электрических потенциалов и т.п. ничего им не дадут, а вот схемотехник легко разберется.