Lineárna regresia

- vektor hodnôt nezávisle premennej veličiny, dĺžky n
- vektor nameraných hodnôt, dĺlky n
- vektor aproximovaných hodnôt, dĺžky n
- vektor neznámych parametrov, dĺžky k

F - matica funkčných hodnôt, veľkosti

Napr. pre lineárnu regresiu 1. rádu (t.j. pre náhradu nameraných hodnôt priamkou) je


a matica F má rozmer nx2.

Aproximované hodnoty pre danú maticu funčných hodnôt F a parametre b získame ako

Potom odchýlka nameraných hodnôt od aproximovaných hodnôt je vektor

Ďalej kvadrát odchýlky je

Aby bolo splnené kritérium minima kvadrátu odchýlky, musí platiť

Z toho vyplýva, že

a teda

je hľadaný vektor neznámych parametrov.