В чем разница между логистической регрессией и общим регрессионным анализом?

В общем регрессионном анализе мы ищем закономерности между независимыми переменными (фичи) и зависимой переменной (таргет). Часто такая закономерность линейная, тогда говорят о линейной регрессии.

На рисунке мы нашли подходящую закономерность (линейную) - зеленая линия для множества точек - желтые. Например, это может быть зависимость между ростом и весом. Соответственно, подставляя в модельку значения роста, можем "предсказать" вес.

Логистическая регрессия это статистический метод, с помощью которого можно решить задачу классификации. При этом можно не только отнести объект к одному из 2-х классов в частном случае, но и оценить вероятность что объект относится к данному классу.

На рисунке линия (n-мерная плоскость) разделяет два класса. При прямом способе мы можем обучить модель на таргет принадлежности к классу [0,1], при этом значения функции модели необязательно будут лежать в пределах вероятности [0,1]. Поэтому применяется сигмовидная функция, которая может принимать любое действительное число и отображать его в значение в диапазоне от 0 до 1, но никогда точно в этих пределах.

Логистическая регрессия используется например в банковском бизнесе для определения кредитоспособности заемщика. Для этого вычисляется скорринговый балл и по порогу принимается решение.