Varianzkomponenten

Varianzkomponenten — REML

Schätzt die Varianzkomponenten direkt aus der restringierten Likelihood — auch bei unbalanciertem Plan.

Statusvalidated

Version1.0.0

Minitab-EntsprechungStat > ANOVA > General Linear Model > Variance Components (REML)

Beschreibung

REML (Restricted Maximum Likelihood) schätzt die Komponenten, ohne den Umweg über die erwarteten mittleren Quadrate: maximiert wird die Likelihood der um die festen Effekte bereinigten Daten. Bei balanciertem Plan stimmt das Ergebnis praktisch mit Henderson I überein; bei unbalanciertem Plan ist REML die belastbarere Wahl, weil es keine Balance-Annahme braucht. Die Engine läuft mit `REML_EM_WARMUP = 5` EM-Schritten warm und rechnet danach mit Average-Information-Schritten weiter (`REML_MAX_ITER = 100`, `REML_TOL = 1e-8`, absolut und relativ geprüft). Der AI-Schritt ist restringiert: Komponenten, die negativ werden wollen, hält er auf null fest (aktive Menge) und gibt sie erst wieder frei, wenn ihr Score positiv wird — ein unrestringierter Newton-Schritt springt auf dem Rand sonst zwischen den Iterationen hin und her und konvergiert nicht. Ist der AI-Schritt gar nicht definiert, übernimmt für diese Iteration wieder EM; scheitern beide, gilt der Fit als nicht konvergiert (kein stilles Abbrechen). Vorher aussortiert werden vollständig aliasierte Terme (ANOVA-Freiheitsgrade 0) — sie machen die Average-Information-Matrix exakt singulär. Eine konstante Zielgröße wird erkannt und liefert lauter Nullkomponenten, statt aus Rundungsrauschen eine Komponente zu erfinden. Die Zeilenzahl ist auf `REML_MAX_ROWS = 500` gedeckelt, weil Speicherbedarf und Laufzeit stark wachsen — je Iteration wird eine n×n-Matrix invertiert.

Formeln

P = V^{- 1} - V^{- 1} X (X^{⊤} V^{- 1} X)^{- 1} X^{⊤} V^{- 1}

Projektionsmatrix der restringierten Likelihood

ℓ_R

- 2 ℓ_{R} = lo g ∣ V ∣ + lo g ∣ X^{⊤} V^{- 1} X ∣ + y^{⊤} P y

Restringierte Log-Likelihood

σ_{j}^{2 (t + 1)} = \frac{σ _{j}^{4} y ^{⊤} P Z _{j} Z _{j}^{⊤} P y + σ _{j}^{2} tr ( \cdot )}{q _{j}}

EM-Aufwärmschritt — monoton, aber langsam

σ_{F}^{(t + 1)} = σ_{F}^{(t)} + (I_{A I})_{FF}^{- 1} s_{F}

Average-Information-Newton-Schritt auf der freien Menge 𝓕 — auf null festgehaltene Komponenten stehen nicht im System

Annahmen

Die Effekte sind unabhängig und normalverteilt
Das Modell ist identifizierbar — jede Komponente hat eigene Information

Einschränkungen

Höchstens 500 Zeilen (REML_MAX_ROWS) — der Speicherbedarf wächst quadratisch
Laufzeit: je Iteration wird eine n×n-Matrix invertiert — an der Zeilengrenze dauert ein Fit mehrere Sekunden
Liefert keine ANOVA-Tabelle: Freiheitsgrade und Quadratsummen fehlen
Die Likelihood-Fläche kleiner unbalancierter Pläne ist flach — das Ergebnis kann vom Startwert abhängen
Vollständig aliasierte Terme (Freiheitsgrade 0) werden vor dem Fit entfernt und mit der Komponente 0 berichtet

Referenzen

Patterson & Thompson (1971), Recovery of Inter-Block Information, Biometrika 58(3)
Gilmour, Thompson & Cullis (1995), Average Information REML, Biometrics 51(4)
Searle, Casella & McCulloch (1992), Variance Components, Wiley