Обмен траффиком:
Линейная регрессия
Модели, которые состоят из линейной комбинации определенного набора функций Xk называются, линейными моделями, и для минимизации разности между моделью и данными может использоваться линейная регрессия. Общая форма модели этого вида
где Xk (x) - функции x, которые называются, функциями базиса, и ak - свободные параметры. Заметьте, что слово "линейный" относится только к зависимости модели от параметров ak; функции Xk (x) могут быть нелинейны.
Минимизация линейной модели выполнется относительно оценочной функции
Минимум этого выражения достигается при равенстве нулю его производной по параметрам. Заменив линейную модель этой функцией, возьмем первые производные и приравняем их к нулю. В результате получим уравнения, которые могут быть решены относительно параметров ak.
Модели линейной регрессии могут быть следующими:
· линейной Y = a+bx
· квадратичной Y = a+bx+cx2
· полиномиальной: Y = a+bx+cx2+dx3 + ....
Обычно при исследовании реальной системы мы имеем набор данных (точек), часто называемых "наблюдениями". Задача состоит в том, чтобы связать эти данные, построив модель в форме параметрического уравнения. Это "модельное уравнение " может, в зависимости от желания исследователя и особенностей конкретной системы, представлять собой различные функции: от простого полинома до чрезвычайно сложной модели с многими параметрами. Желательно, чтобы модель была выбрана так, чтобы параметры в выражении имели реальные интерпретацию и значения.
предыдущаяследующая