Weighted κ (ordinal, linear/quadratisch)
weighted-kappa — Übereinstimmung mit distanzabhängiger Gewichtung, für ordinale Skalen (z. B. Noten 1–5).
Beschreibung
Weighted κ verallgemeinert Cohen κ, indem Fehlklassifikationen nicht mehr binär (0/1), sondern nach ihrer Distanz auf der ordinalen Skala gewichtet werden. Kleine Abweichungen (Note 3 vs. 4) zählen weniger als große (Note 1 vs. 5). Zwei Standardvarianten: linear (w_ij = 1 − |i−j|/(k−1)) und quadratisch (w_ij = 1 − ((i−j)/(k−1))²). Die quadratische Variante nach Cicchetti & Allison (1971) ist der De-facto-Standard und Minitab-kompatibel. Ohne Gewichtung reduziert sich weighted κ auf cohen-kappa.
Formeln
Annahmen
- Ordinale Skala mit definierter Reihenfolge der Stufen
- Zwei Prüfer bewerten dieselben Teile
- Gewichtungsschema bewusst gewählt (linear = milde, quadratisch = strenge Bestrafung großer Abweichungen)
Einschränkungen
- Nicht sinnvoll für rein nominale Skalen — dort cohen-kappa oder fleiss-kappa verwenden
- Wahl von linear vs. quadratisch verändert κ deutlich; für Vergleichbarkeit dieselbe Variante wählen
Referenzen
- Cohen, J. (1968) — Weighted kappa: Nominal scale agreement with provision for scaled disagreement, Psychological Bulletin 70(4)
- Cicchetti, D. V. & Allison, T. (1971) — A new procedure for assessing reliability of scoring EEG sleep recordings, American Journal of EEG Technology 11(3)
- Fleiss, J. L., Cohen, J. & Everitt, B. S. (1969) — Large sample standard errors of kappa and weighted kappa, Psychological Bulletin 72(5)