وكلاء النماذج اللغوية الانتشارية يتعلمون «الهمس» بالمتجهات: +34 نقطة على QASC

تبني النماذج اللغوية الانتشارية إجابتها عبر سلسلة من الحالات المستمرة التي يعاد النظر فيها تباعاً، لكن الأنظمة متعددة الوكلاء تتخلص عادةً من هذه الحالات: إذ لا يتواصل الوكلاء إلا بعد فك الترميز إلى نص. اختبر مؤلفو ورقة Hidden Messages تصميماً مختلفاً. يضغط أحد الوكلاء حالة إزالة الضوضاء لديه في أربعة متجهات كثيفة رمزية ويمرّرها إلى وكيل ثانٍ. على QASC، حيث تتوزع الحقيقتان الداعمتان بين الوكيلين، يحقق العمل المشترك دقة 80,8%. وإذا استُبدلت الرسالة برسالة غريبة، تنخفض النتيجة إلى 46,8%. هذا الفارق البالغ 34,0 نقطة هو بالضبط «أثر المحتوى».

أربعة متجهات بدلاً من النص

آلية القناة بسيطة. يسير المرسِل في مساره الانتشاري الخاص، وفي لحظة محددة يضغط حالته الراهنة في أربعة متجهات. يتلقى المستقبِل هذه المتجهات كمدخل إضافي، لكنه لا يتخلى عن مدخلاته: يبقى لديه سياقه الخاص ولوحته الخاصة (canvas) ومسار إزالة الضوضاء الخاص به. فالرسالة لا تحل محل استدلال المستقبِل، بل تُمزج به.

هذا التصميم مهم لنقاء التجربة. فالوكلاء مستقلون، ولا توجد بينهم حالة مشتركة، وكل ما يعرفه أحدهم عن الآخر يمر عبر المتجهات الأربعة.

كيف أثبتوا أن المستقبِل يقرأ المعنى

يكمن الضعف الرئيسي في كثير من الأبحاث حول التواصل الكامن في أن تحسّن المقاييس قد يُعزى ببساطة إلى وجود إشارة إضافية. هنا وُضع اختباران ضابطان. الأول: تُزال الرسالة كلياً لمعرفة ما إذا كانت القناة ضرورية أصلاً. الثاني: تُستبدل الرسالة برسالة من مثال آخر (derangement). يبقى شكل الإشارة وإحصاءاتها كما هما، ولا يتغير سوى المحتوى. فإذا انخفضت الدقة، فهذا يعني أن المستقبِل يستخدم المعنى، لا مجرد وجود المتجه.

والانخفاض كبير:

• Tiny-A2D: يلغي derangement ميزة قدرها +63,6 نقطة.
• Dream-7B: يلغي derangement ميزة قدرها +100,0 نقطة.
• QASC عند توزيع الحقيقتين بين الوكيلين: 80,8% مع الرسالة الصحيحة مقابل 46,8% مع رسالة من مثال آخر، أي أن أثر المحتوى +34,0 نقطة.
• الاستبدال الموجَّه: عندما تُضمَّن في الرسالة حقيقة أخرى محددة، يحرّف المستقبِل إجابته نحوها.

والنقطة الأخيرة هي على الأرجح الأكثر دلالة. فالتدهور يدل على أن القناة مهمة، أما الانحياز الموجَّه نحو الحقيقة المزروعة فيدل على أن المتجهات الأربعة تحمل معلومات قابلة للقراءة فعلاً.

التمرير المتأخر يتفوق على التبادلات المتكررة

تتعلق أكثر النتائج مفاجأة بالتوقيت. يوحي الحدس بأنه كلما زادت جولات التبادل، تحسنت مزامنة الوكلاء. لكن التجربة تُظهر العكس: رسالة واحدة متأخرة تحقق 87,8%، أي أعلى بـ 7,0 نقاط من أربعة تبادلات متكررة. وبحسب الحساب، تبقى التبادلات الأربعة قرب مستوى 80,8%.

يكمن التفسير المعقول في طبيعة الانتشار. ففي الخطوات المبكرة يكون المسار ما يزال ضبابياً، وتحتوي حالة المرسِل على كثير من الضوضاء والفرضيات غير المستقرة. أما في الخطوات المتأخرة فتكون الإجابة قد تشكلت، وتحمل الحالة المضغوطة ما «قرره» المرسِل فعلاً. يبقى هذا التفسير فرضية، لكن النتيجة نفسها تنقض الافتراض المألوف بأن كثرة التواصل مفيدة تلقائياً.

أين يمكن تطبيق ذلك عملياً

بالنسبة لمطوري الأنظمة متعددة الوكلاء، الخلاصة مباشرة: ينبغي اعتبار لحظة تمرير المعلومات فرط معامل (hyperparameter) بالقدر نفسه الذي يُعتبر به عدد الجولات. فتبادل واحد رخيص في النقطة المناسبة من المسار قد يتفوق على مخطط من أربعة تبادلات، وبالتالي يوفر الحوسبة وزمن التأخير.

والنتيجة الثانية تخص تنقيح الأخطاء. يسهل إعادة إنتاج اختبار استبدال الرسالة برسالة غريبة في أي نظام ذي قناة كامنة، وهو يفصل بسرعة بين التواصل الحقيقي والأثر العرضي لمجرد وجود مدخل إضافي.

أما القيود فواضحة أيضاً. أُجريت الاختبارات على مهام خاضعة للتحكم وعلى نماذج مثل Tiny-A2D وDream-7B، لا على سيناريوهات وكيلية طويلة تستخدم الأدوات. غير أن العمل يقدم منهجية وأول دليل سببي على أن الوكلاء الانتشاريين يستطيعون تبادل المعنى فيما بينهم دون نص. وبالنسبة للبنى التي يُعدّ فيها فك الترميز إلى رموز (tokens) خطوة إلزامية في التواصل، فهذا سبب وجيه لإعادة النظر في التصميم.