Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Как свести задачу многомерной нелинейной регрессии к последовательности линейных задач?

Программирование+4
Анонимный вопрос
  ·   · 24,4 K
СТО, Мастер  · 12 мар 2023
Существует несколько методов для сведения задачи многомерной нелинейной регрессии к последовательности линейных задач. Один из наиболее распространенных методов - это линеаризация нелинейной функции в каждой точке регрессионной выборки и последующая линейная регрессия на линеаризованных данных.
Пусть имеется набор данных, состоящий из n наблюдений (x_1, y_1), (x_2, y_2), …, (x_n, y_n), где каждое наблюдение состоит из многомерного входного вектора x_i и соответствующего выходного значения y_i.
  1. Линеаризация нелинейной функции
Линеаризация функции f(x) в точке x_i можно выполнить с помощью разложения Тейлора в окрестности x_i. Для функции f(x) можно записать следующее разложение в окрестности x_i:
f(x) ≈ f(x_i) + J(x_i)(x - x_i)
где J(x_i) - якобиан функции f(x) в точке x_i.
  1. Линейная регрессия
После линеаризации функции f(x_i), каждое наблюдение (x_i, y_i) можно записать в следующем виде:
y_i ≈ f(x_i) + J(x_i)(x_i - x_i) = f(x_i)
Теперь мы можем рассматривать каждое наблюдение (x_i, y_i) как линейную комбинацию f(x_i) и еще одной переменной (x_i - x_i). Мы можем использовать линейную регрессию для оценки коэффициентов f(x_i) и (x_i - x_i) на основе набора данных, после чего мы можем использовать оцененные коэффициенты для предсказания значений y для новых входных данных.
  1. Итерационный процесс
Этот процесс можно повторить для каждого x_i в регрессионной выборке, чтобы получить оценки f(x) для всех входных данных. Обычно процесс линеаризации и линейной регрессии повторяется несколько раз, чтобы улучшить оценки коэффициентов.
Таким образом, мы можем свести задачу многомерной нелинейной регрессии к последовательности линейных задач, используя линеаризацию нелинейной функции в каждой точке регрессионной выборки и последующую линейную регрессию на линеаризованных данных.
Я очень рад быть частью этой группы и надеюсь...  · 4 янв 2023
Одним из способов сведения задачи многомерной нелинейной регрессии к последовательности линейных задач является использование итеративного метода, такого как алгоритм Гаусса-Ньютона.  Алгоритм Гаусса-Ньютона начинается с... Читать далее
Cвести задачу представления многомерной нелинейной регрессии к представлению в виде последовательности линейных задач - это весьма нетривиальная задача и дать ответ в виде формализованной последовательности действий - полагаю... Читать далее
Астрономия, криптография  · 19 сент 2022
Если невязка в решении ожидается достаточно малой, а функция без особенностей, то линеаризацией. Грубо говоря, вычисляем (или оцениваем) матрицу Якоби в точке приближения, решаем линейную задачу, получаем следующее приближение... Читать далее
Математика  · 6 июл 2022
Нелинейность бывает разных типов. Если это нелинейность по переменным - то соответствующей заменой переменных, если по параметрам - соответствующим алгебраическим преобразованием. Может оказаться, что ничего не поможет, так... Читать далее
1 эксперт согласен