STAT 101
M05 · L03
الوحدة 5 · الدرس 3
طرق الـ bootstrap
لو مش عارف الـ distribution بتاع الـ population؟ اعتمد على بياناتك إنت. اعمل resampling من اللي معاك وسيب الكمبيوتر يكمّل الباقي. ده الـ bootstrap (البوتستراب).
01 / 12
STAT 101
M05 · L03
برادلي إيفرون، 1979
الفكرة الجريئة
الاستدلال التقليدي محتاج معادلة لكل إحصاءة. وفكرة الـ bootstrap: اعتبر الـ sample بديل عن الـ population. واعمل محاكاة لعملية الـ sampling بالبيانات اللي معاك.
الاستبدال
الـ distribution المجهول F → الـ empirical distribution F̂ₙ
الاشتقاق → المحاكاة B مرة
الاشتقاق → المحاكاة B مرة
02 / 12
STAT 101
M05 · L03
4 خطوات بسيطة
الخوارزمية
- الخطوة 1: اسحب n مشاهدة مع الإرجاع من بياناتك ← bootstrap sample x*
- الخطوة 2: احسب الإحصاءة T* = T(x*)
- الخطوة 3: كرّر B مرة (B = 1,000–10,000)
- الخطوة 4: حلّل توزيع {T*₁, …, T*_B}
03 / 12
STAT 101
M05 · L03
مش محتاج تشتق معادلة
الـ standard error بالـ bootstrap
Bootstrap SE
\widehat{\mathrm{SE}}_{\mathrm{boot}} = \sqrt{\dfrac{1}{B-1}\sum_{b=1}^{B}(T^*_b - \bar{T}^*)^2}
الـ standard deviation بتاع الـ B إحصاءة bootstrap. بيشتغل مع أي estimator — الـ mean، والـ median، والـ correlation، والنسبة.
04 / 12
STAT 101
M05 · L03
أبسط confidence interval بالـ bootstrap
فترة الـ percentile
95% Percentile CI
\bigl[\,T^*_{(\alpha/2)},\; T^*_{(1-\alpha/2)}\,\bigr]
خد الـ percentiles 2.5 و97.5 من الـ bootstrap distribution. سهلة وبتنفع على نطاق واسع لما n يبقى كبير.
05 / 12
STAT 101
M05 · L03
نسخة متصحّحة من الـ bias
الـ basic bootstrap interval
Pivot / Reflection CI
\bigl[\,2\hat{T} - T^*_{(1-\alpha/2)},\; 2\hat{T} - T^*_{(\alpha/2)}\,\bigr]
المعيار الدهبي
BCa (bias-corrected and accelerated) — بيصحّح الـ bias والـ skew مع بعض. أحسن coverage لما n يبقى صغير.
06 / 12
STAT 101
M05 · L03
قوة العمومية
بيشتغل مع أي إحصاءة
- الـ median: مفيش معادلة مقفولة للـ SE — والـ bootstrap بيدّيهولك
- الـ correlation: أمتن من Fisher's z transformation
- نسبة المتوسطات: مفيش معادلة parametric
- AUC / F1: المعيار لمقاييس الـ machine learning
- الـ regression coefficients: متين قدام الـ residuals اللي مش normal
07 / 12
STAT 101
M05 · L03
نوعين
parametric قصاد nonparametric
nonparametric
resampling من البيانات. من غير افتراضات. بينفع في كل حتة.
parametric
محاكاة من الـ model المتظبّط. كفؤ لو الـ model صح.
08 / 12
STAT 101
M05 · L03
الأساس النظري
ليه بيشتغل؟
- F̂ₙ بيتقارب لـ F (Glivenko-Cantelli theorem)
- الـ bootstrap distribution بتاع T*−T̂ بيتقارب للـ sampling distribution بتاع T̂−θ
- الـ bootstrap confidence intervals صحيحة asymptotically
- الجودة معتمدة على F̂ₙ بيقرّب F قد إيه
- n أكبر → تقريب أحسن
09 / 12
STAT 101
M05 · L03
حالات الفشل المعروفة
الـ bootstrap بيفشل إمتى؟
- الـ max/min بتاع الـ sample: الحد في الـ bootstrap مش بيعدّي الحد اللي اتشاف
- الـ heavy tails: variance لا نهائي ← الـ bootstrap ممكن ميتقاربش
- الـ samples الصغيرة (n < 15): F̂ₙ متناثر أوي؛ coverage ضعيفة
- البيانات المعتمدة على بعض: استخدم الـ block bootstrap للـ time series
- الـ model selection: اختيار الـ variables بـ LASSO مش ثابت مع الـ bootstrap
10 / 12
STAT 101
الخلاصة
مراجعة
اتعلّمت إيه
- اعمل resampling مع الإرجاع B مرة؛ واحسب الإحصاءة كل مرة
- الـ bootstrap standard error = الـ standard deviation بتاع الـ B تكرار — مش محتاج معادلة
- فترة الـ percentile = [T*_(α/2)، T*_(1−α/2)] — الأبسط
- فترة BCa — أحسن coverage لما يبقى فيه bias أو skew
- nonparametric: resampling من البيانات. parametric: محاكاة من الـ model
- بيفشل مع القيم المتطرفة والـ heavy tails والـ n الصغير والبيانات المعتمدة على بعض
الوحدة 5 مكتملة
الجاي — الوحدة 6: اختبار الفرضيات ←
12 / 12