Lineare Regression (OLS)

Standard-Regression für stetiges, normalverteiltes Y — Modell $Y = β_{0} + \sum β_{j} X_{j} + ε$ , geschätzt per kleinster Quadrate.

Auch bekannt als: OLS, Ordinary Least Squares, Methode der kleinsten Quadrate, Multiple lineare Regression

Die lineare Regression (Ordinary Least Squares, OLS) ist das klassische Regressionsmodell. Sie minimiert die Summe der quadrierten Residuen — die $\hat{β}$ werden so gewählt, dass die vorhergesagten Werte den beobachteten möglichst nahe kommen.

\hat{β} = (X^{⊤} X)^{- 1} X^{⊤} y

Einfach — ein X, ein Y: $Y = β_{0} + β_{1} X + ε$
Multipel — mehrere X: $Y = β_{0} + β_{1} X_{1} + β_{2} X_{2} + \dots + ε$
Annahmen — Linearität, unabhängige Beobachtungen, konstante Fehlervarianz (keine Heteroskedastizität), normalverteilte Residuen

Siehe auch

Verwendet in

Im Algorithm-Lab

Quellen

Montgomery, D. C., Peck, E. A. & Vining, G. G. — Introduction to Linear Regression Analysis, 6th Edition
Draper, N. R. & Smith, H. — Applied Regression Analysis, 3rd Edition, Wiley