Они могут помочь автоматизировать рутинные процессы, но их ключевая особенность в том что они могут только воспроизводить обобщённый опыт, при этом их "творческая" составляющая буквально отсутствует, ибо ничего нового они сделать не могут, ибо всё творчески новое как правило находится в дополнении к пространству данных на которых их обучают, а это дополнение в отличии от ограниченного пространства обучающих данных неограниченно и без осознанного междисциплинарного анализа-синтеза провести они не могут, но в то же время нейросети могут позволить ускорить многие процессы, но только при условии того, что для этих процессов будут накоплены и размечены(охарактеризованы, проанализированы) данные, обобщения которых будет цель получить и воспроизводить без участия человека. В целом же польза нейросетей как правило проявляется в нетворческих приложениях и в ситуациях, когда "творчество" поддаётся обобщению-автоматизации, без создания чего-то нового, т.е. без привлечения анализа, рефлексии относительно результатов.
Если же говорить о нашумевших примерах взлома системы образования через использование нейросетей для написания дипломов и домашних заданий, то тут на самом деле они ничего нового о системе образования не сказали, ибо система образования и так находилась в упадке, который как раз и проявлялся в том, что
1) Педагоги в большом количестве проявляли халатность к вопросу качества подготовки учеников/студентов, многие д/з проверялись по наличию, к ним де факто занижались требования по грамотности речи, содержательности и подкреплённости ответов/решений. На это влиял а) отрицательный отбор педагогического состава(часто в систему образования шли и идут достаточно пассивные, немотивированные люди). б) Реформы образования усиливающие обобщение, учёт и бюрократизацию в ущерб гибкости системы образования, что содержательно перераспределяет время педагогов и учителей с подготовки к занятиям на занудное заполнение бумажек, большая часть которых как правило нужны только для галочки в учётных документах. в) ограничение роли учителей только вокруг роли начётчиков и контролёров, с уничижением задач воспитания и поддержания образа учителя как авторитета(причём как в виду пункта а., так и в виду профилировки системы образования не как государствообразующего института, а как сферы услуг, в виду чего учитель находится под давлением как школьной администрации, так и клиентов-родителей, для чьих детей оказывается образовательная услуга, где более того услуга становится формальной, в виду чего родители беспокоятся не за качество знаний детей, их социализацию, а лишь за их успеваемость, чем по сути происходит отчуждение от реальных результатов учёбы, причём как родителями и учителями, так и учениками, собственно отсутствие за оценками позитивной обратной связи и низкая уверенность учёников часто приводят к депрессивному и безразличному отношению детей к учёбе)
2) Слабая междисциплинарная связь и созависимость, так например многие предметы рассогласованы даже в условиях высокой взаимосвязи(например физика и математика, у которых программа многих учебников построена так, что учебник физики полагает, что ученики знают и понимают производную, тогда как учебник математики может тему производной оставлять либо дополнительной, либо вписывать её в программу так, что фактически её объяснение произойдёт с опозданием в четверть-две относительно момента её упоминания и востребования на уроках физики). Тут также стоит упомянуть весьма вредное отношение и учителей к несмежным напрямую дисциплинам, по которым имеет место дефективная манера многих учителей делить учеников на технарей, гуманитариев и пр., тем самым часто они на деле неосознанно указывают не на то, что ученик преуспевает в отдельных предметах, лучше чем в других, а чаще по сути указывают чуть ли не на непреодолимость отставания ученика по другим дисциплинам. Важно то, что это вредное разделение предметов затем вполне активно перенимается и учениками, которые принимают это разделение в качестве собственного оправдания и самооправдания, вместо того, чтобы собраться и начать исправлять отставание по предметам, по которым "не дано". В результате данной, грубой и поспешной специализации мы получаем в итоге безграмотных "технарей" и откровенно не умеющих логически(а значит - непротиворечиво) мыслить "гуманитариев", тогда как на деле данное разделение абсурдно и является лишь результатом сложения проявлений лени, предубеждений и безответственности воспитателей(в т.ч. родителей), ученика и учителей. Собственно к заданному вопросу это имеет прямое отношение, ибо благодаря этому явлению(поспешной специализации) и получается, что безграмотность в сгенерированных нейросетью текстах, море воды которой та заливает ответ - не вызывают вопросов у проверяющих, при чём как в виду халатности, собственной малограмотности проверяющих, так и виду того, что в таком виде научные тексты могут быть трудноотличимы от работы сделанной слабеньким студентом/учеником.
3) Чрезмерная бюрократизация и формализация процесса - порой к работам предъявляются избыточные требования, которые в свою очередь могут отрицательно сказываться на самой работе, так например в работе может требоваться цитирование N-ного количества источников, могут вносится утрированные требования по содержанию работы, ограничения по числу страниц, по включению или не включению содержимого(например необходимость включать полные исходные тексты программ для работ по ВМК-шной и мехматовской тематикам, т.е. тексты которые никто смотреть особо не станет, да более того тексты, которые корректнее публиковать например в специальных репозиториях, разворачиваемых на инфраструктуре ВУЗ или открытых площадках)
4) Перегруженность образовательных программ как маловостребованными или затянутыми предметами, на которые тратятся учебные часы, так и часто дублирование-повторение курса программ в виду невозможности иначе заполнить "очные часы"(например у меня в ВУЗе было дублировано примерно 10-15% процентов учебной программы, т.е. например мне дважды читали курс философии).
В общем нейросети(уровня ChatGPT) лишь напомнили о проблемах в системе образования, указали на низкий уровень междисциплинарной связи, о поспешной специализации, о низком уровне качества образования и воспитания учеников, родителей, учителей, администрации и пр. Эти проблемы к сожалению решить нейросети не смогут и не будут, а в остальном, они действительно скорее всего продолжат внедрятся в систему образования, но только не с общественно полезной целью повышения качества, а с целью усиления оптимизации и урезания расходов на хорошо автоматизируемых задачах.