ML 101
M02 · L01
الوحدة 2

الـ linear regression

أساس الـ Machine Learning. خط مستقيم في نص البيانات بيتنبأ بالجاي — ده الـ linear regression (الانحدار الخطي): بسيط وقوي ونقطة البداية لكل اللي جاي بعده.

01 / 13
ML 101
M02 · L01
التجهيز

التنبؤ من البيانات

لو عندنا أمثلة قديمة فيها inputs وoutputs، نقدر نلاقي pattern؟ الـ linear regression بيرسم أحسن خط مستقيم في نص نقط البيانات المبعترة.

مثال
لو عارفين مساحات البيوت وأسعارها، نقدر نتنبأ بسعر بيت جديد.
02 / 13
ML 101
M02 · L01
المعادلة

الـ linear model

أبسط model ممكن — خط مستقيم بيتحدّد برقمين بس: الـ weight (الوزن) (الميل) والـ bias (الانحياز) (نقطة التقاطع).

الـ linear model
\hat{y} = w_1 x + w_0
03 / 13
ML 101
M02 · L01
التوسّع

متغيرات كتير

المشاكل الحقيقية ليها inputs كتير. السعر بيعتمد على المساحة وعدد الأوض والمكان والعمر… والـ linear regression بيتعامل معاهم كلهم بـweight واحد لكل متغير.

الـ multiple regression
\hat{y} = w_0 + w_1 x_1 + w_2 x_2 + \cdots + w_n x_n
04 / 13
ML 101
M02 · L01
قياس الغلط

متوسط مربع الخطأ

الخط بتاعنا غلطان قد إيه؟ الـ MSE بياخد متوسط المسافة المربّعة بين الـ predictions والحقيقة. والتربيع بيعاقب الأخطاء الكبيرة أكتر من الصغيرة. ده الـ cost function (دالة التكلفة).

الـ cost function
J(\mathbf{w}) = \frac{1}{n}\sum_{i=1}^{n}(\hat{y}_i - y_i)^2
05 / 13
ML 101
M02 · L01
التصوّر

شكل الـ loss

ارسم الـ MSE قصاد كل قيمة ممكنة للـ weights وهيطلعلك سطح شكله طاسة. قاع الطاسة هو الحل الأمثل. وشغلانتنا: نلاقيه.

نقطة مهمة
في الـ linear regression، الطاسة دي دايمًا محدّبة — فيها global minimum واحد بس. مفيش فخاخ ولا طرق مقفولة.
06 / 13
ML 101
M02 · L01
الـ optimization

الـ gradient descent

ابدأ من أي حتة على الطاسة. احسب الميل. خد خطوة لتحت. وعيد. ده الـ gradient descent (النزول التدرجي)، والـ learning rate α بيتحكم في حجم الخطوة — لو كبير أوي هتعدّي الهدف، ولو صغير أوي هتزحف ببطء.

قاعدة التحديث
w \leftarrow w - \alpha \frac{\partial J}{\partial w}
07 / 13
ML 101
M02 · L01
الطريق المختصر

الـ normal equation

ليه تكرّر لما تقدر تحل على طول؟ الـ normal equation (المعادلة الطبيعية) بتدّي الـ weights المثلى بالظبط في خطوة واحدة — من غير learning rate ولا iterations.

الحل المقفول
\mathbf{w} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}
08 / 13
ML 101
M02 · L01
الـ trade-offs

الـ gradient descent ولا الـ normal equation؟

الاتنين بيلاقوا نفس الإجابة. والاختيار الصح بيعتمد على بياناتك:

الـ normal equation
n < 10,000
الـ gradient descent
n > 10,000
09 / 13
ML 101
M02 · L01
نصيحة عملية

normalization للمتغيرات

لو متغير بيتراوح بين 0–1 وتاني بين 0–1,000,000، الـ gradient descent بيتعرّج جامد. اعمل normalization للمتغيرات لمقاييس قريبة من بعض وهيتقارب أسرع بكتير.

قبل الـ normalization
+1000 iteration
بعد الـ normalization
~50 iteration
10 / 13
ML 101
M02 · L01
أبعد من الخطوط

الـ polynomial regression

البيانات مش دايمًا خطية. زوّد متغيرات polynomial زي x² وx³ عشان تناسب منحنيات — بنفس آلية الـ linear regression. ده الـ polynomial regression (الانحدار متعدد الحدود).

الـ polynomial model
\hat{y} = w_0 + w_1 x + w_2 x^2 + w_3 x^3
11 / 13
ML 101
اختبار سريع

شوف إيه اللي ثبت

أربع أسئلة من الدرس ده. جاوب عشان تشوف السبب — الشرح بيظهر سواء جاوبت صح أو غلط. ونتيجتك مش بتتحفظ.

السؤال 1 من 0
النتيجة 0/0

12 / 13
ML 101
الخلاصة
مراجعة

اتعلّمت إيه

الـ linear regression بيناسب خط للبيانات بإنه يقلّل الـ MSE. الـ gradient descent أو الـ normal equation بيلاقوا الـ weights المثلى. الـ normalization بيسرّع التقارب. والمتغيرات الـ polynomial بتتعامل مع المنحنيات.

الدرس الجاي
13 / 13