Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Как обрабатывать пропущенные данные в датасете?

ПрограммированиеМатематика+2
Сослан Табуев
  ·   · 6,4 K
Увлекаюсь естественными науками и математикой...  · 2 авг 2021

Если значение пропущенного элемента влияет на машинное обучение, содержащую этот элемент запись следует полностью игнорировать, причём на малой выборке это особенно важно, так как всякие неверные данные на малых выборках сильнее снижают качество обучения. Единственное исключение можно сделать в том редком случае, когда все определённые (не Null) значения элемента по мере чтения записей представляют собой невозрастающую или неубывающую последовательность - в таком случае пропуски (даже если идёт несколько Null подряд) можно заполнить так, чтобы имела место картина монотонности на каждом неопределённом участке между определённым данными.

Бывает и так, что данные не полностью инициализированы по той причине, что не была произведена постобработка исключительных случаев алгоритма заполнения данных по причине ошибки соединения с приложением сервера обработки таких ситуаций. Если данные не определены, когда должны быть определены, обратитесь к контактному лицу серверной стороны за разъяснениями, может на той стороне просто сообщат вам, как следует интерпретировать пропуски, или же сделают перерасчёт.

2 эксперта согласны
Специалист в области управления и информатики в...  · 22 дек 2021
Мне известны следующие варианты: 1) Отбросить строки с недостающими данными (либо не использовать столбцы с большим кол-вом NaN в качестве параметра для модели). По возможности, разумеется 2) Если влияние параметра с большим... Читать далее
4 эксперта согласны
Согласен.
Здравствуйте, есть много способов обработки пропущенных значений, предлагаю начать с самого простого - исключения строк с пропущенными элементами из датасета. Если у вас большой датасет, то процедуру можно запускать смело, но у... Читать далее
2 эксперта согласны
На малой выборке обычно учиться даже по медианным значениям гораздо вреднее игнорирования, так как эти значения... Читать дальше
Первый
аналитик данных  · 25 окт 2021
я попробую написать несколько решений навскидку: 1/ дропнуть те строки, в которых имеется Null / NA / что там у вас. Хорошее решение, если датасет большой, плохое - если маленький (или дикий дисбаланс классов 2/ Заполнить... Читать далее
2 эксперта согласны
Алексей Мс
подтверждает
22 дек 2021
Даже добавить особо нечего. Ответ хорош
преподавание математики, высшей математики, data...  · 3 авг 2021
1. Модельно-независимым способом невозможно восстановить, кажется, это Теорема Шеннона. 2. Следовательно, вы можете только ухудшить количество информации, полученой математически. 3. Применение Закона больших чисел и других... Читать далее
Кандидат физ.-мат. наук, делаю Яндекс, увлекаюсь...  · 3 авг 2021
Это зависит от задачи и от применяемого метода. Наиболее распространенные методы "табличного" ML -- Catboost и XGBoost -- умеют работать с пропущенными данными "из коробки", см. https://catboost.ai/docs/concepts/algorithm-miss... Читать далее
1 эксперт согласен