Overfitting (Überanpassung)

Das Modell passt sich an Zufallsrauschen der Trainingsdaten an — sieht großartig aus, neue Daten enttäuschen.

Auch bekannt als: Überanpassung, Overfit

Overfitting entsteht, wenn ein Modell zu viele Freiheitsgrade für die verfügbaren Daten hat: es beschreibt nicht mehr nur den systematischen Zusammenhang, sondern lernt zusätzlich das Rauschen der Trainingsstichprobe. Die In-Sample-Anpassung wirkt perfekt, doch die Vorhersage für neue Beobachtungen ist schlecht.

  • Symptom 1: großer Abstand zwischen und adjustiertem R²
  • Symptom 2: hohe In-Sample-Genauigkeit, schwacher Out-of-Sample-Vorhersagewert (Cross-Validation)
  • Symptom 3: instabile Koeffizienten — kleine Datenänderungen ergeben stark andere Schätzer
  • Faustregel: mindestens 10 Beobachtungen pro Prädiktor, in Screening-Studien lieber 20

Siehe auch

Verwendet in

Im Algorithm-Lab

Quellen

  • Hastie, T., Tibshirani, R. & Friedman, J. — The Elements of Statistical Learning, 2nd Edition, Springer
  • James, G., Witten, D., Hastie, T. & Tibshirani, R. — An Introduction to Statistical Learning, 2nd Edition, Springer