جمِّد خريطة سماتٍ مُدرَّبة مسبقًا، ودرِّب رأسًا صغيرًا فوقها، ثم سابِقها ضدّ شبكةٍ مُدرَّبةٍ من الصفر في المِنصّة — ثم توقَّع، قبل أن تقرأ اللوحات، accuracy النقل وaccuracy التعلّم من الصفر حين تكون التسميات شحيحة، وتأكّد أنّ خريطة السمات حتميّة، وتوقَّع كيف تتحرّك gap بينهما كلّما منحتَ النموذجين مزيدًا من التسميات.
خريطة السمات المُدرَّبة مسبقًا φ(x) تحوّل المدخلات الخام إلى سماتٍ مرّةً واحدة، وتبقى مجمَّدة؛ وفوقها تُلائم رأسًا صغيرًا فقط — هنا مسبار انحدار ridge: ŷ = sign(wᵀφ(x) + b₀). ولأنّ للرأس معاملاتٍ قليلة، فإنّه يتعلّم من حفنة تسميات، فيبلغ النقل accuracy مفيدة حيث ما تزال شبكةٌ مُدرَّبةٌ from-scratch — عليها أن تتعلّم السمات والحدَّ من التسميات القليلة نفسها — تتعثّر. وكلّما زادت التسميات لحق التعلّم من الصفر بالركب وانغلقت gap. خريطة السمات هنا بديلٌ اصطناعيٌّ مبذور — وليست أوزانًا مُدرَّبةً مسبقًا حقيقية، ولا يقف خلفها نموذجٌ مُدرَّبٌ مسبقًا حقيقي — لكنّ كلّ accuracy والفجوة المتقلّصة أرقامٌ حقيقيّة مَحسوبة.
افتح المِنصّة. اختر مهمّة الدوائر المتحدّة المركز، واضبط ميزانيّة التسميات بمنزلق n، واقرأ accuracy النقل والضبط الدقيق والتعلّم من الصفر من اللوحة؛ فالحدُّ ومنحنى كفاءة العيّنات وكلُّ دقّةٍ تتحدّث آنيًّا.
Task -> Concentric circles Labels n -> 8 Features -> Frozen (transfer) seed 3/7
Then raise Labels n -> 64, then 256, and watch the gap close
يستخدم كلُّ رقمٍ أدناه بذور المِنصّة الافتراضيّة (بذرة السمات 3، بذرة البيانات 7) ومنزلقاتها الافتراضيّة (gamma = 0.9، H = 40 سمة)، فتعيد لوحاتُك إنتاجها بالضبط. خريطة السمات بديلٌ اصطناعيٌّ لأوزانٍ مُدرَّبةٍ مسبقًا — أمّا الدقّات التي تتيحها فحقيقيّة.
اضبط n = 8 تسمية على مهمّة الدوائر المتحدّة المركز واقرأ نموذج النقل — سماتٌ مجمَّدة مع رأسٍ حَرَجيّ. توقَّع accuracy على المجموعة المحجوزة قبل أن تنظر.
يسجّل النقل accuracy = 0.7125. بثماني تسمياتٍ فقط يفصل الرأسُ الصغير، القائم على السمات المُعاد استخدامها، الحلقاتِ جيّدًا فوق مستوى الصدفة.
الآن اقرأ شبكة from-scratch عند n = 8 نفسها — عليها أن تتعلّم السمات والحدَّ من تلك التسميات الثماني. توقَّع accuracy، والفجوة إلى النقل.
يسجّل التعلّم من الصفر accuracy = 0.6325، بفجوة 0.7125 − 0.6325 = 0.08 دون النقل. تسمياتٌ أقلّ من أن تتعلّم سماتٍ جيّدة من العدم — هذا هو مكسب كفاءة العيّنات، وهو بالضبط سببُ إعادتنا استخدام خريطةٍ مُدرَّبةٍ مسبقًا.
مجمَّدة تعني ثابتة: لبذرة سماتٍ معطاة لا تتغيّر الخريطة أبدًا، فالمدخل نفسه يُعطي السمات نفسها دائمًا. مع بذرة السمات 3، وgamma = 0.9، وH = 40، توقَّع أوّل تنشيطٍ في φ(x) عند x = (0.4, −0.7).
هو تمامًا φ(x)[0] = -0.996487060176469 (≈ −0.9965)، القيمة نفسها في كلّ تشغيل. هذه القابليّة للتكرار هي جوهر التجميد: تُحسَب السمات مرّةً واحدة وتُعاد استخدامها، ولا تُتعلَّم من جديد أبدًا.
ارفع الميزانيّة إلى n = 64 وراقب النموذجين يرتقيان. صار للتعلّم من الصفر تسمياتٌ تكفي لتعلّم سماتٍ حقيقيّة. توقَّع gap accT − accS هنا (النقل 0.9325 مقابل التعلّم من الصفر 0.8825).
هبطت الفجوة إلى 0.9325 − 0.8825 = 0.05، نزولًا من 0.08 عند n = 8. تسمياتٌ أكثر تتيح للتعلّم من الصفر أن يتعلّم السمات التي نالها النقل مجّانًا — فيضيق تقدّم النقل.
ادفع الميزانيّة إلى n = 256. صار النموذجان قرب السقف الآن (النقل 0.975، والتعلّم من الصفر 0.96). توقَّع gap accT − accS.
الفجوة مجرّد 0.975 − 0.96 = 0.015 — ما يزال النقل متقدّمًا، لكن بالكاد. الدرس: تقدّم النقل يبلغ أقصاه بالضبط حين تكون التسميات أقلّ (0.08 → 0.05 → 0.015 كلّما ارتفعت n). وحين تكون البيانات وفيرة يلحق التعلّم من الصفر بالركب.
كلُّ ما سبق ينتظرك في المِنصّة. امسح منزلق n لتراقب منحنى كفاءة العيّنات — يبدأ خطّا الدقّة متباعدَين ويتقاربان كلّما زادت التسميات — وبدِّل المهمّة إلى الأهلّة أو الحلزون أو XOR لترى السمات المجمَّدة تنتقل عبر الأشكال، وفعِّل الضبط الدقيق لفكّ تجميد الخريطة. تذكّر أنّ خريطة السمات بديلٌ اصطناعيٌّ لا أوزانًا مُدرَّبةً مسبقًا حقيقية — لكنّ كلّ دقّةٍ تقرأها مَحسوبة.
- قرأتَ accuracy = 0.7125 للنقل عند n = 8 — مفيدة من حفنة تسميات
- رأيتَ التعلّم من الصفر يتخلّف عند accuracy = 0.6325، بفجوة 0.08 — مكسب كفاءة العيّنات
- تأكّدتَ أنّ الخريطة المجمَّدة حتميّة: φ(x)[0] = -0.996487060176469 في كلّ تشغيل
- راقبتَ الفجوة تتقلّص كلّما زادت التسميات — 0.08 → 0.05 → 0.015 عند n = 8, 64, 256
- كلُّ دقّةٍ وفجوةٍ توقّعتها هي حساب انحدار ridge والنزول التدرجي وكفاءة العيّنات الخاصّ بالعرض نفسه — وحدها خريطة السمات المجمَّدة بديلٌ اصطناعيّ، لا أوزانٌ مُدرَّبةٌ مسبقًا حقيقية