v0.2، التقاط الـ hidden states وتعديلها واستعادتها

الـ probe يقدر يقول إن اتجاهًا في الطبقة l يحمل معلومات عن جذر الكلمة. لا يقدر يقول إن النموذج يستخدم داك الاتجاه لإنتاج مخرجه. الفجوة هي الفرق بين قابلية الفك والاستخدام السببي، وهي بالضبط الفجوة اللي يهتم بها السؤال البحثي.

المشكلة: الملاحظة مو سببًا

إجابة v0.2، كقيد: التدخّل لا يكون ذا معنى علمي إلا لما تكون هوية الـ tensor والطبقة وموضع الـ token ومسار التنفيذ صريحة. الـ patch اللي لا يقدر يقول بدقة ما استبدل يثبت شيء؛ والاستعادة غير المطابقة للبت تثبت أقل.

الالتقاط: ملاحظة انتقائية تحمل مصدرها

يسجّل --capture-activations الـ tensors الحية بس للسجلات المختارة صراحةً، عند إحدى مراحل الـ hook الدلالي الست (قبل الطبقة، بعد attention، بعد mlp، بعد الطبقة، قبل logits، بعد logits)، مرشَّحًا بالطبقة والمرحلة وموضع الـ decode، مع سقف سجلات اختياري (CHANGELOG.md، v0.2). كل سجل يحمل مصدره: المرحلة والطبقة والطور وموضع البداية وتجزئة الـ tensor ومصدر النموذج والـ tokenizer وGGUF وتجزئة الـ prompt (مع إمكانية حذف الـ prompt) ومعرّفات tokens المدخلة والمولّدة وتجزئة إعداد الالتقاط بالضبط. صيغة الـ artifact مُرقّمة (0.2.0-experimental) ولا تحمل أي ضمان توافق.

التعديل: مصدر واحد، يُحسم بدقة

يستبدل --activation-patch تنشيطًا حيًا في مكانه من artifact ملتقط. حسم المصدر لا لبس فيه بالبناء: الهدف يحلّ إلى سجل مصدر واحد بالضبط (مؤهل بالموضع أو فريد)، وأي شيء آخر خطأ قاسٍ؛ وتُتحقق العائلة والطبقة والعرض والـ dtype وترتيب البايت؛ والهدف اللي لم يُطبَّق أبدًا فشل لا تخطٍّ صامت؛ والـ hook لا يخصص شيء بعد التهيئة (CHANGELOG.md، v0.2).

المثال المكثف، شُغّل مباشرة

سير عمل v0.2 المثبّت على Qwen3-0.6B Q8_0 (الطبقة 4، المرحلة بعد mlp، 4 tokens مولّدة، حرارة 0)، مُعاد في 2026-08-04 (artifacts/benchmark-v02/part2-capture-patch.md):

1. الجلسة A، خط الأساس، مع التقاط.
2. الجلسة B، --zero-layer-output 4:mlp، نفس الالتقاط. مخرجات الـ MLP في الطبقة 4 تُصفَّر قبل إضافة الـ residual؛ بقية الشبكة ترى تيارًا مختلفًا.
3. مقارنة A مع B، status=differs، 0 من 8 سجلات متطابقة. المخرجات تغيرت: معرّفات الـ tokens 12095 13 576 6722 → 279 6722 3283 315.
4. الجلسة C، --activation-patch: تنشيط الطبقة 4 بعد mlp من A أُعيد في prefill وكل موضع decode (4 تطبيقات عبر 4 أهداف).
5. مقارنة A مع C، status=tensor-identical، 8 من 8 سجلات مطابقة للبت؛ المعرّفات عادت إلى 12095 13 576 6722؛ تجزئات النموذج والـ tokenizer والـ prompt والمدخلات كلها متطابقة. الاختلافات الوحيدة مصدر مسجّل (اسم التجربة ووسائطها وتجزئة إعداد الالتقاط وargv والطابع الزمني)، وcreated_at_unix ودليل مخرجات الالتقاط هما الحقلان اللذان تُحدَّد لهما أداة compare-artifacts أن تتجاهلهما.

هذا هو معيار الاستعادة المجمّد: لازم تكون logits الـ patch الملتقطة مطابقة للبت لخط الأساس، متساوية sha256 على مستوى الـ tensor، مع رفض مساواة النص المولّد صراحةً كدليل غير كافٍ (تعليق السكربت نفسه يقول داك).

النتيجة الصادقة: الـ harness انجرف، المعيار صمد

تشغيل السكربت المثبّت على الثنائي الحالي أنتج مفاجأة تستحق التسجيل لا الإخفاء: يخرج السكربت بالفشل رغم أن المعيار نجح. يؤكد السكربت أن حالة مقارنة A مع C هي النص الحرفي "identical"؛ بينما يبلغ compare-artifacts الحالي "tensor-identical" لما تكون كل السجلات المحاذية مطابقة للبت بس المصدر المسجّل مختلف. مفردات الحالة تطورت بعد v0.2 (أصناف مقارنة v0.5 هي exact-semantic وexact وoutput-equivalent وtop1-equivalent وfailed)، وسكربت عصر v0.2 لم يُحدَّث.

الفحص الجوهري لا لبس فيه: 8/8 سجلات متطابقة، معرّفات الـ tokens متساوية، كل حقول الجلسة الجوهرية متساوية (artifacts/benchmark-v02/part2-capture-patch.md القسم 3). هذا انجراف الـ harness، المعيار صمد؛ نص التأكيد لم يصمد، وهو بالضبط ما لازم تبرزه سلسلة عن الثقة لا أن تنعّمه.

ليش هذا أكثر من دقة probe

ممكن قراءة الجلسة نفسها بطريقتين. رؤية الـ probe: اتجاه في الطبقة 4 قابل للفك. الرؤية السببية: تصفير مخرجات الـ MLP في الطبقة 4 يغيّر المخرج، واستعادة التنشيط الدقيق تستعيد المخرج الدقيق، tensor بتensor، حتى الـ logits المسجّلة. الادعاء الثاني أقوى بدقة، وهو اللي بُني مخطط artifact v0.2 لدعمه: تحاذي المقارنة السجلات على (المرحلة، الطبقة، الطور، موضع البداية)، ترفض التكرارات، وتبلغ عن مساواة بتية لكل سجل وmax/mean/RMS وcosine وL2 ونسبية L2 (CHANGELOG.md، v0.2).

إيش اللي لا يشتغل بعد

• مخطط الـ artifact 0.2.0-experimental قد يتغير من غير إشعار؛ لا شيء في v0.2 التزام توافق.
• طبقة/مرحلة هدف واحدة لكل تجربة تعديل؛ الالتقاط والتعديل لا يشاركان في أوضاع probe/extract/dump؛ سجلات prefill كاملة التسلسل (فلاتر الـ tokens تنطبق على decode بس).
• tag الإصدار v0.2.0 رجعي، كائن الـ tag أُنشئ في 2026-08-04، بعد v0.3.0؛ مدى التنفيذ قابل للتحديد في التاريخ (67ba4f5..cd7ffa1) بسه ما كان موسومًا حينها.
• تأكيد حالة سكربت سير عمل v0.2 المثبّت قديم تجاه الثنائي الحالي (النتيجة أعلاه)؛ المعيار اللي يفرضه سليم.
• التدخّل لا يكون ذا معنى إلا بقدر مسار التنفيذ اللي يشتغل عليه، ولهذا كان على v0.3 أن يحافظ على دلالات الالتقاط نفسها في المسار المضغوط، وعلى v0.4 أن يُبقي مواقع الـ hooks قابلة للملاحظة تحت الـ fusion.

إيش اللي أطلق هذا

دورة الالتقاط → المقارنة → التعديل → الاستعادة هي سلسلة الأدوات اللي حدّدت لاحقًا فشل حدود الكمّية سببيًا، قصة الجزء 6. والطلب على المصدر بهذه الدرجة من التفصيل هو ما حوّله v0.5 إلى صيغة artifact قابلة للتحقق.