Zwei Möglichkeiten, Bootstrap zum Schätzen des Konfidenzintervalls von Koeffizienten in der Regression zu verwenden

Ich wende ein lineares Modell auf meine Daten an: $$ y_ {i} = \ beta_ {0} + \ beta_ {1} x_ {i} + \ epsilon_ {i}, \ quad \ epsilon_ {i} \ sim N (0, \ sigma ^ {2}). $$

Ich möchte das Konfidenzintervall (CI) der Koeffizienten ($ \ beta_ {0} $, $ \ beta_ {1} $) mithilfe der Bootstrap-Methode schätzen. Es gibt zwei Möglichkeiten, wie ich die Bootstrap-Methode anwenden kann:

1. Beispiel für einen gepaarten Antwortprädiktor: Stichproben von $ y_ {i} -x_ {i} $ werden zufällig neu abgetastet und linear angewendet Regression zu jedem Lauf. Nachdem $ m $ ausgeführt wurde, erhalten wir eine Sammlung geschätzter Koeffizienten $ {\ hat {\ beta_ {j}}}, j = 1, … m $. Berechnen Sie abschließend das Quantil von $ {\ hat {\ beta_ {j}}} $.

2. Beispielfehler: Wenden Sie zunächst eine lineare Regression auf die ursprünglich beobachteten Daten aus diesem Modell an Wir erhalten $ \ hat {\ beta_ {o}} $ und den Fehler $ \ epsilon_ {i} $. Probieren Sie anschließend den Fehler $ \ epsilon ^ {*} _ {i} $ nach dem Zufallsprinzip erneut aus und berechnen Sie die neuen Daten mit $ \ hat {\ beta_ {o}} $ und $ y ^ {*} _ {i} = \ hat { \ beta_ {o}} x_ {i} + \ epsilon ^ {*} _ {i} $. Wenden Sie erneut eine lineare Regression an. Nachdem $ m $ ausgeführt wurde, erhalten wir eine Sammlung geschätzter Koeffizienten $ {\ hat {\ beta_ {j}}}, j = 1, …, m $. Berechnen Sie abschließend das Quantil von $ {\ hat {\ beta_ {j}}} $.

Meine Fragen sind:

• Wie unterscheiden sich diese beiden Methoden?
• Unter welcher Annahme liefern diese beiden Methoden das gleiche Ergebnis?

Kommentare

• Ich persönlich würde beides nicht als Standardansatz verwenden, sondern stattdessen das grundlegende Bootstrap-Konfidenzintervall empfehlen. Siehe S. 8 von www.stat.cmu.edu/~cshalizi/402/lectures/08-bootstrap/lecture-08.pdf. Ich habe ‚ viele Simulationen für das binäre Logistikmodell durchgeführt und mit dem Basis-Bootstrap eine bessere Abdeckung des Konfidenzintervalls festgestellt als mit dem Perzentil- oder BCa-Bootstrap.
• @FrankHarrell um klar zu sein, mit “ basic “ beziehen Sie sich auf den nicht parametrischen Bootstrap?
• (1) ist das nichtparametrische Konfidenzintervall des Bootstrap-Perzentils, nicht der grundlegende Bootstrap. Beachten Sie, dass das Abtasten von $ (x, y) $ der bedingungslose Bootstrap ist, der mehr annahmefrei ist als der bedingte Bootstrap, der Residuen erneut abtastet.
• I ‚ Ich bin wirklich kein Experte, aber soweit ich es verstehe, wird 1) oft als “ Fall-Resampling “ bezeichnet, während die 2) heißt “ Residuum “ oder “ fixed- $ x $ “ Resampling. Die grundlegende Wahl der Methode impliziert nicht ‚ die Methode zur Berechnung der Konfidenzintervalle nach der Prozedur. Ich habe diese Informationen hauptsächlich aus dem Tutorial von John Fox erhalten. Soweit ich es sehe, können Sie nach jedem Bootstrap die grundlegenden Bootstrap-CIs berechnen (z. B. mit boot.ci(my.boot, type="basic") in R). Oder vermisse ich hier etwas?
• Ja, Sie können Cluster-Bootstrapping durchführen. Dies ist in den Funktionen R rms validate und calibrate implementiert.