Какие продвинутые техники машинного обучения вы знаете?
Более-менее массовое знание в области машинного обучения часто заканчивается на обучение с учителем и алгоритмов кластеризации.
Однако есть такие техники, которые несколько сложнее и не сводятся к простой минимизации функции потерь, например:
и до какой-то степени сюда же можно отнести обучение с подкреплением, которое, впрочем, гораздо более известно чем перечисленные выше.
Ну и вообще какие интересные, на ваш взгляд, приемы вы знаете в машинном обучении.
И, в целом, какие интересные, на ваш взгляд, приемы вы знаете в машинном обучении?
ТехнологииData science+2
Мне нравится использование генетического механизма для подбора архитектуры и параметров нейронной сети.
Только вот затратно оно по времени и ресурсам.
Обратил внимание, что генетика дает как самую точную более простую архитектуру нейронки.
1 эксперт согласен
Мне приходят в голову LSTM сети, которые, на мой взгляд, далеко не тривиальны, а так же трансформеры
1 эксперт согласен
Вот еще несколько, которые мне приходят на ум:
- Условная оптимизация (оптимизация при наличии ограничений). Пример статьи.
- Использование вероятностных распределений внутри моделей. Например, вариационный автокодировщик.
1 эксперт согласен
Я вот тут сообразил, что, возможно, к продвинутым можно также отнести всякие техники "респемплинга" вроде бутстрепа с последующим построением ансамблированной модели.