تجميع النصوص دون وسم: تضمينات LLM وHDBSCAN من Machine Learning Mastery

لقد أخذت تضمينات LLM المهام ذات النصوص غير المنظمة بعيداً جداً عن واجهات الدردشة. تنشر Machine Learning Mastery دليلاً عملياً: كيفية دمج التمثيلات المتجهة من نماذج اللغة مع خوارزمية HDBSCAN — والعثور تلقائياً على مجموعات موضوعية في مجموعات البيانات النصية دون تعليقات يدوية أو معرفة مسبقة ببنية البيانات.

لماذا تغير التضمينات قواعد اللعبة

يمكن لنماذج اللغة تحويل النص إلى متجهات عالية الأبعاد. هذه تمثيلات رقمية تنتهي فيها الأجزاء المتشابهة دلالياً بالقرب الهندسي من بعضها. سيكون "العميل غير راضٍ عن السعر" و"مكلف جداً بالنسبة لي" جيران في الفضاء متعدد الأبعاد، بينما سيكون "مشكلة في التسليم" في جزء مختلف تماماً منه. هذا هو السبب في أن التضمينات هي مدخل مثالي للتجميع: يأخذ النظام المعنى في الاعتبار وليس تطابق الكلمات الرئيسية. قواميس المرادفات والقواعد لم تعد ضرورية.

تتضمن النماذج الشهيرة للحصول على التضمينات OpenAI `text-embedding-3-small` و Cohere Embed v3 و sentence-transformers ذات المصدر المفتوح، التي تعمل محلياً بدون تكاليف API. يبلغ التضمين النموذجي أبعاداً 768–3072 — كثير جداً للتجميع المباشر. قبل HDBSCAN، من الشائع تطبيق UMAP، الذي يضغط الفضاء إلى 5–50 بُعد. بدون هذه الخطوة، تواجه الخوارزمية "لعنة الأبعاد": في الفضاء عالي الأبعاد، تبدو جميع النقاط متساوية تقريباً في المسافة من بعضها البعض، ولا تتشكل المجموعات.

HDBSCAN مقابل الطرق القياسية

تبدأ معظم دورات التجميع بـ K-means. المشكلة: تتطلب الخوارزمية تحديد عدد المجموعات مسبقاً — وهو أمر مستحيل إذا كانت بنية البيانات غير معروفة. تحل خوارزمية HDBSCAN (Hierarchical Density-Based Spatial Clustering of Applications with Noise) المشكلة بطريقة مختلفة:

• لا تتطلب تحديد عدد المجموعات مسبقاً
• تضع علامات تلقائياً على نقاط "الضوضاء" — النصوص التي لا تناسب أي مجموعة
• تتعامل بشكل صحيح مع المجموعات ذات الأحجام والكثافات المختلفة
• تتسع لعشرات الآلاف من المستندات
• توفر تسلسلاً هرمياً للمجموعات مع قابلية التحكم في الدقة

خط أنابيب كامل: التضمينات → تقليل الأبعاد عبر UMAP → HDBSCAN → تسميات المجموعات. يستغرق الكود بأكمله بضع عشرات من أسطر Python مع مكتبات `sentence-transformers` و `umap-learn` و `hdbscan`. لتفسير المواضيع التي تم العثور عليها، يكفي تمرير بعض الأمثلة من كل مجموعة إلى نموذج اللغة وطلب منه اقتراح اسم — تنغلق الحلقة من نموذج اللغة إلى الإحصائيات والعودة.

التطبيق بدون بيانات التدريب

الميزة الرئيسية لهذا الدمج هي عدم الحاجة على الإطلاق إلى التعليقات التوضيحية. لا حاجة للاتفاق على الفئات أو توظيف معلقين أو تشكيل مجموعة تدريب. يكتشف خط أنابيب واحد البنية بنفسه.

"العصر الحالي للذكاء الاصطناعي التوليدي يركز على واجهات الدردشة، لكن قدرات نماذج اللغة تتجاوز ذلك بكثير"، كما يكتب مؤلفو

Machine Learning Mastery.

السيناريوهات النموذجية: تجميع آلاف تذاكر الدعم، والتصنيف التلقائي لتدفقات الأخبار، وتجميع تقييمات المنتجات، وتحليل الأسئلة المفتوحة من الاستطلاعات، والكشف عن الأنماط الشاذة في السجلات. تظهر النتائج في دقائق، بدون تعليقات توضيحية مسبقة. يكون الأسلوب قيماً بشكل خاص عند التعامل مع البيانات سريعة التغير: يتم اكتشاف المواضيع الجديدة تلقائياً — لا حاجة لإضافة الفئات يدوياً إلى المصنف في كل مرة يتغير المجال.

ماذا يعني هذا

يعتبر دمج تضمينات LLM مع HDBSCAN أداة جاهزة لتنظيم مجموعات البيانات النصية الكبيرة بدون إشراف. المهام التي تطلبت سابقاً أسابيع من العمل اليدوي أو التعليقات التوضيحية المكلفة يتم حلها الآن بنص برمجي صغير. بالنسبة للفرق التي تعمل مع تعليقات المستخدمين أو مراقبة وسائل الإعلام أو تحليل المحتوى، هذا توفير مباشر للموارد — وفرصة لاستخراج الرؤى من البيانات التي ظلت سابقاً مجرد بيانات غير مستخدمة.