Алгоритъм на Гаус – Нютон

Шаблон:Без източници Алгоритъмът на Гаус – Нютон е модификация на метода на Нютон, разработена от Карл Фридрих Гаус за решаване на нелинейни задачи за най-малките квадрати, в които се търси минимума на:

$S(p)=\sum _{i=1}^m(f_i(p){)}^2,$

където са дадени m функции f₁, ..., f_m на n параметъра p₁, ..., p_n и m≥n.

Алгоритъмът на Гаус-Нютон е итерационна процедура, при която се започва с избрана начална стойност на вектора p – p⁰. Следващите приближения p^k се получават от:

$p^{k+1}=p^k-(J_f(p^k{)}^{\mathrm{\top }}{J}_f(p^k){)}^{-1}{J}_f(p^k{)}^{\mathrm{\top }}f(p^k),$

където f=(f₁, ..., f_m), J_f(p) е матрицата на Якоби за f в точка p.

В практическите приложения на метода обратната матрица не се изчислява директно, а се използва:

$p^{k+1}=p^k+{\delta }^k,$

като δ^k се изчислява чрез решаване на линейната система:

$J_f(p^k{)}^{\mathrm{\top }}{J}_f(p^k){\delta }^k=-J_f(p^k{)}^{\mathrm{\top }}f(p^k).$