Regressziószámítás

A statisztikában a regressziószámítás, vagy regresszióanalízis során két vagy több véletlen változó között fennálló kapcsolatot modellezzük. A regressziós modell tulajdonságai alapján megkülönböztethetünk lineáris és nemlineáris regressziót, az adataink alapján pedig idősor, keresztmetszeti, és panel regresszióanalízist.

Alapfogalmak

Elméleti meghatározás

A regresszió feladata két vagy több valószínűségi változó közötti $y = f(x_1,x_2,\dots,x_n)\quad$ függvénykapcsolat meghatározása.

Gyakorlati feladat

Az összetartozó $(y,x_1,x_2,\dots,x_n)$ adatokból álló, tapasztalati adatsor analitikus közelítése előre megadott típusú $y = f(x_1,x_2,\dots,x_n)\quad$ matematikai összefüggéssel úgy, hogy a számított $\hat{y}=f(x_1,x_2,\dots,x_n)$ és a mért értékek $\Delta(\hat{y}-y)$ eltérése minimális legyen.

Az eltérések mértékét többféleképpen lehet megadni. Leggyakrabban a négyzetes hibák összegét szokták választani (l.: legkisebb négyzetek módszere).

A vizsgált jelenség természete szabja meg a közelítésre alkalmas függvény típusát. Eszerint megkülönböztetünk lineáris és nemlineáris regressziót. A kapcsolt változók száma szerint ugyancsak eltérnek a modellek. Ilyen értelemben beszélünk két-, három- stb. változós regresszióról.

Lineáris regresszió

A kétváltozós lináris regressziós egyenlet általános formában:

$y=\beta_0+\beta_1x\,$

ahol $\beta_0,\beta_1$ az együtthatók. A $\beta_0$ együtthatót az egyenlet konstansának, vagy tengelymetszetének nevezik.

A többváltozós (n változós) lineáris regressziós egyenlet általános formában:

$y=\beta_0+\sum_{j=1}^n \beta_j x_{j}.$

Az együtthatók becslésére alkalmazott eljárások:

• a legkisebb négyzetek módszere (angolul Ordinary Least Squares – OLS)
• az általánosított legkisebb négyzetek módszere (Generalized Least Squares – GLS)
• az általánosított momentumok módszere (Generalized Method of Moments – GMM)
• a legnagyobb valószínűség módszere (Maximum Likelihood estimation – ML).

Nemlineáris regresszió

Nemlineáris regressziószámítást akkor alkalmaznak, ha a modell nem lineáris. Az ilyenkor alkalmazható linearizáló módszer abból áll, hogy az eredeti $(y;x_1,\dots)$ változók helyett, velük összefüggő, de egymással lineáris kapcsolatban lévő $(Y;X_1,\dots)$ változókat vezetünk be.

Például az $y=A\cdot e^{Bx}\quad$ formulából az $X=x ; Y=\ln{y}\quad$ helyettesítésekkel az $Y=\ln A +B\cdot X\quad$ lineáris kapcsolat adódik. Ennek(a,b) együtthatóiból az eredeti formula konstansai adódnak: $A=e^{a}; B=b\quad$.