Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Как обрабатывать пропущенные данные в датасете?

ПрограммированиеМатематика+2
Сослан Табуев
  ·   · 6,4 K
Первый
аналитик данных  · 25 окт 2021
я попробую написать несколько решений навскидку:
1/ дропнуть те строки, в которых имеется Null / NA / что там у вас.
Хорошее решение, если датасет большой, плохое - если маленький (или дикий дисбаланс классов
2/ Заполнить средним / максимумом / минимумом/ медианой - тут поиграться надо. Может сработать, но обязательно надо смотреть
3/ для категориальных фичей - заполнить наибольшим классом (в классической задаче титаника иногда так делают)
4/ Неплохой вариант - не просто средние, а сначала кластеризовать (напр, k-means), а потом применить уже варианты выше. Работает еще лучше, т.к. заполняете "средним по кластеру".
Good luck
2 эксперта согласны
Алексей Мс
подтверждает
22 дек 2021
Даже добавить особо нечего. Ответ хорош
Специалист в области управления и информатики в...  · 22 дек 2021
Мне известны следующие варианты: 1) Отбросить строки с недостающими данными (либо не использовать столбцы с большим кол-вом NaN в качестве параметра для модели). По возможности, разумеется 2) Если влияние параметра с большим... Читать далее
4 эксперта согласны
Согласен.
Увлекаюсь естественными науками и математикой...  · 2 авг 2021
Если значение пропущенного элемента влияет на машинное обучение, содержащую этот элемент запись следует полностью игнорировать, причём на малой выборке это особенно важно, так как всякие неверные данные на малых выборках... Читать далее
2 эксперта согласны
Здравствуйте, есть много способов обработки пропущенных значений, предлагаю начать с самого простого - исключения строк с пропущенными элементами из датасета. Если у вас большой датасет, то процедуру можно запускать смело, но у... Читать далее
2 эксперта согласны
На малой выборке обычно учиться даже по медианным значениям гораздо вреднее игнорирования, так как эти значения... Читать дальше
преподавание математики, высшей математики, data...  · 3 авг 2021
1. Модельно-независимым способом невозможно восстановить, кажется, это Теорема Шеннона. 2. Следовательно, вы можете только ухудшить количество информации, полученой математически. 3. Применение Закона больших чисел и других... Читать далее
Кандидат физ.-мат. наук, делаю Яндекс, увлекаюсь...  · 3 авг 2021
Это зависит от задачи и от применяемого метода. Наиболее распространенные методы "табличного" ML -- Catboost и XGBoost -- умеют работать с пропущенными данными "из коробки", см. https://catboost.ai/docs/concepts/algorithm-miss... Читать далее
1 эксперт согласен