الـ linear regression البسيط
خط واحد، وcoefficientين، وأكتر predictive model بيستخدم في الإحصاء — بنرسم خط مستقيم وسط البيانات عشان نوصف variable بيأثر في التاني إزاي. ده الـ simple linear regression (الانحدار الخطي البسيط).
الـ model
- β₀ — الـ intercept (Y لما X = 0)
- β₁ — الـ slope (تغيّر Y لكل وحدة من X)
- ε — خطأ عشوائي (noise مفيش منه مهرب)
الـ least squares
الـ residual (البقية) هو المسافة الرأسية بين النقطة اللي اتشافت والخط المتظبّط: eᵢ = yᵢ − ŷᵢ. وطريقة الـ ordinary least squares (OLS) بتلاقي الخط اللي بيقلّل مجموع المربعات.
الـ estimators بتوع OLS
قراية الـ coefficients
β₀ = 50 ألف$: التكلفة الأساسية
β₁ = 120$ لكل قدم مربع: قيمة المساحة
الـ intercept ليه معنى بس لو X = 0 جوه مدى البيانات. أما الـ slope فينفع يتفسّر دايمًا.
R² — التغيّر المتفسّر
تحليل الـ residuals
- الخطية — مفيش نمط في الـ residuals قصاد X
- الـ normality — الـ residuals تقريبًا على شكل جرس (QQ plot)
- الـ homoscedasticity — الـ variance ثابت على قيم X
- الاستقلالية — مفيش autocorrelation في الـ residuals
الـ homoscedasticity
الكسر = heteroscedasticity: انتشار الـ residuals بيوسع أو بيضيق مع X. والـ standard errors بتبقى مش موثوقة.
اكشفه برسم الـ residuals قصاد الـ fitted values. وعالجه بـ log transformations أو robust standard errors.
التنبؤ قصاد الثقة
الـ confidence interval بتحصر الـ mean response الحقيقي عند X = x*. والـ prediction interval بتحصر مشاهدة جديدة — ودايمًا أوسع لأنها بتزوّد الـ variance بتاع ε اللي مفيش منه مهرب.
significance الـ slope
H₀: β₁ = 0 (مفيش تأثير خطي لـ X). بنرفضها لو |t| > t_{α/2}(n−2). والـ slope الـ significant معناه إن X predictor خطي مفيد لـ Y.
اتعلّمت إيه
- الـ model: Y = β₀ + β₁X + ε — خط ومعاه noise
- الـ OLS بيقلّل ∑(yᵢ − ŷᵢ)² عشان يجيب β̂₀ وβ̂₁
- β₁ = الـ slope: تغيّر Y لكل وحدة من X
- الـ R² بيقيس نسبة تغيّر Y اللي X بيفسّرها
- افحص الـ residuals: الخطية، والـ normality، والـ homoscedasticity
- الـ prediction intervals أوسع من الـ confidence intervals — بتزوّد noise الـ ε
- الـ t-test على β₁ بيحدّد هل X predictor مفيد