Overfitting (Überanpassung)
Das Modell passt sich an Zufallsrauschen der Trainingsdaten an — R² sieht großartig aus, neue Daten enttäuschen.
Auch bekannt als: Überanpassung, Overfit
Overfitting entsteht, wenn ein Modell zu viele Freiheitsgrade für die verfügbaren Daten hat: es beschreibt nicht mehr nur den systematischen Zusammenhang, sondern lernt zusätzlich das Rauschen der Trainingsstichprobe. Die In-Sample-Anpassung wirkt perfekt, doch die Vorhersage für neue Beobachtungen ist schlecht.
- Symptom 1: großer Abstand zwischen R² und adjustiertem R²
- Symptom 2: hohe In-Sample-Genauigkeit, schwacher Out-of-Sample-Vorhersagewert (Cross-Validation)
- Symptom 3: instabile Koeffizienten — kleine Datenänderungen ergeben stark andere Schätzer
- Faustregel: mindestens 10 Beobachtungen pro Prädiktor, in Screening-Studien lieber 20
Siehe auch
Verwendet in
Im Algorithm-Lab
Quellen
- Hastie, T., Tibshirani, R. & Friedman, J. — The Elements of Statistical Learning, 2nd Edition, Springer
- James, G., Witten, D., Hastie, T. & Tibshirani, R. — An Introduction to Statistical Learning, 2nd Edition, Springer