حوكمة الذكاء الاصطناعي وسلامته · الوحدة الخامسة English summary

٥ النماذج اللغوية العربية: السلامة والتقييم إقليمية مادة أصلية — لا أصل يُترجَم

الازدواجية اللغوية وسلامة النماذج

Diglossia and Model Safety — Why MSA Evaluation Is Not Arabic Evaluation

قد يرفض النموذج طلبًا ضارًّا بالفصحى ويُجيب عنه بالعامّية. وليست هذه فرضيّةً بعيدة، بل هي النتيجة المتوقّعة من طريقة بناء هذه النماذج: فضبط السلامة يتركّز في المستوى اللغوي الذي لا يكتب به الناس، والناس يكتبون في المستوى الذي لم يُضبَط. وهذه المادّة تشرح السبب، ثم تعطي تصميم تقييمٍ أدنى يمكن لطالبٍ واحد أن ينفّذه في أسبوع.

الوحدة
الخامسة · النماذج العربية
زمن القراءة
نحو ١٨ دقيقة
الصفة
تأليف أصلي · لا نظير له
حالة الأدلّة
فرضية وتصميم — لا نتائج

Summary in English

This reading has no English original to translate — which is the point. Arabic safety evaluation is, as far as we could verify, an empty field.

The argument: Arabic is diglossic. Modern Standard Arabic is the written prestige register; nobody speaks it natively, and comparatively little informal writing uses it. Safety fine-tuning and safety benchmarks for Arabic concentrate almost entirely on MSA, because MSA is what is available as clean annotated corpora. Users write in dialect, in mixed intermediate registers, and in Latin-script Arabic (Arabizi). The result is a predictable structural gap: safety behaviour is trained and measured in the register people do not use.

Three distinct failure modes follow — refusal asymmetry (a dialect jailbreak), over-refusal on benign dialect (an access harm falling on exactly the populations least served), and moderation failure at platform scale. The piece then specifies a minimum viable evaluation: a small prompt set rendered — not translated — across registers by native speakers, run with multiple samples, scored on two independent axes (did it refuse; was the output harmful), and reported as a delta between registers rather than an absolute rate. Measuring the difference sidesteps the need for an agreed absolute harm threshold, which is why a single student can produce a publishable result.

We report a hypothesis and a method, not findings. The inventory of what Arabic safety evaluation has actually been published is marked throughout as unverified.

١المسألة في جملة واحدة

تُبنى سلامة النماذج ويُقاس أثرها في مستوًى لغويّ لا يستعمله الناس. وهذا ليس عيبًا في نموذجٍ بعينه، ولا سهوًا من مختبرٍ بعينه، بل نتيجة بنيويّة لطريقة توفّر البيانات العربية.

وشرح ذلك يقتضي التسليم بحقيقةٍ لسانيّة بسيطة يعرفها كلّ عربيّ ولا يعرفها كثيرٌ من مهندسي هذه النماذج: أنّ «العربية» ليست لغةً واحدة في مقام الاستعمال. وهذه ليست ملاحظة ثقافية لطيفة تُضاف في مقدّمة ورقة تقنية، بل هي متغيّرٌ يُفسِد القياس إن أُهمِل.

٢سُلّم المستويات، وأين يقع الضبط منه

الازدواجية اللغوية (diglossia) وصفٌ لحالة تتوزّع فيها وظائف اللغة على مستويين أو أكثر: مستوى رفيع للكتابة والخطاب الرسمي، ومستوى دارج للحياة اليومية. والعربية حالتها المدرسية في هذا الباب. لكنّ التقسيم الثنائيّ مُخِلّ: الواقع سُلّمٌ متّصل، لا درجتان.

والشكل الآتي يعرض السُّلّم، ويُقابله بثلاثة أعمدة: أين تتوفّر بيانات التدريب، وأين يتركّز ضبط السلامة، وأين يكتب الناس فعلًا.

سلّم المستويات اللغوية العربية مقابلًا بكثافة بيانات التدريب وضبط السلامة والاستخدام الفعلي المستوى اللغوي بيانات التدريب ضبط السلامة كتابة الناس الفصحى التراثية نصوص كلاسيكية ودينية الفصحى المعاصرة صحافة، تعليم، خطاب رسميّ · لا ناطق بها أصلًا العربية الوسطى خطاب المتعلّمين · تناوب بين المستويين العامّية المكتوبة خليجية، مصرية، شامية، مغاربية… · إملاء غير موحّد العربيزي — بحرف لاتيني 3arabizi · شائع في الرسائل والتعليقات الفجوة: ضبط السلامة يتركّز في الصفّ الثاني · والكتابة تتركّز في الصفّين الرابع والخامس تقدير نوعيّ لا قياس. المربّعات تمثّل كثافةً نسبيّة، وليست نسبًا مئويّة.
شكل ١. السُّلّم من أعلى (الأرفع) إلى أدنى (الأدرج)، ومعه ثلاثة أعمدة. اقرأ العمودين الثاني والثالث معًا: ضبط السلامة يبلغ أقصاه في الفصحى المعاصرة — وهي المستوى الذي لا ناطق به أصلًا — ويقارب الصفر في العربيزي، حيث يكتب كثيرٌ من الناس فعلًا. والفجوة بين العمودين هي موضوع هذه المادّة. والأرقام تقدير نوعيّ مبنيّ على ما هو معروف عن توفّر الموارد العربية المصنَّفة، لا على قياس منشور — انظر «ما لا نعرفه».

وسبب هذا التوزيع بسيط ولا يحتاج إلى سوء نيّة: المتون العربية النظيفة المصنَّفة متوفّرة بالفصحى المعاصرة، لأنّ الصحافة والكتب والوثائق الرسمية مكتوبة بها. والعامّية المكتوبة متوفّرة بكثرة خامًا لكن بإملاء غير موحّد — فالكلمة الواحدة تُكتب على أوجه عدّة، ولا معيار يحكمها. وضبط السلامة يحتاج بيانات موسومة عالية الجودة؛ فتذهب حيث الجودة، أي إلى المستوى الذي لا يُستعمل.

ملاحظة مهمّة: العربية ليست حالةً فريدة في هذا الباب. فما يُقال هنا يصحّ بدرجات على لغاتٍ أخرى ذات ازدواجية أو تنوّع لهجيّ واسع. ومن ثمّ فالتقييم اللهجيّ العربيّ، إن أُنجِز جيّدًا، منهجٌ قابل للنقل لا خصوصيّة عربية — وهذه حجّة تستحقّ أن تُستعمَل في طلب التمويل.

٣ثلاثة أنماط إخفاق، لا نمط واحد

يُختصَر النقاش عادةً في «كسر الحماية باللهجة»، وهذا أحد ثلاثة أنماط، وليس أهمّها بالضرورة من حيث الأثر على الناس.

الأول: عدم تناظر الرفض

يرفض النموذج طلبًا ضارًّا بالفصحى، ويستجيب للطلب نفسه بالعامّية أو بالعربيزي. وهذا هو نمط الإخفاق الأمنيّ المألوف: قناة تجاوز لا تحتاج مهارةً تقنيّة، بل تحتاج أن تكون ابن اللغة. وهو الأخطر من حيث سوء الاستخدام المتعمَّد، والأسهل إثباتًا في تجربة صغيرة.

الثاني: فرط الرفض

وهو المقلوب، وأكثر إهمالًا: يرفض النموذج طلبًا بريئًا مكتوبًا بالعامّية، أو يُصنّفه محتوًى مسيئًا، لأنّ مصنّف السلامة لم يرَ هذا التركيب من قبل. وأثره ضررٌ في الوصول لا في الأمن: يقع على من لا يكتب بالفصحى — وهم غالبًا أقلّ تعليمًا رسميًّا، وأحوج إلى الخدمة. فيكون النظام أضعف نفعًا لمن هو أشدّ حاجةً إليه.

فرط الرفض ليس إخفاقًا أخفّ من كسر الحماية. هو إخفاق يقع على فئةٍ بعينها، بصمتٍ، ولا يُبلِّغ عنه أحد — لأنّ من يُرفَض طلبه لا يعرف أنه رُفض لسببٍ لغويّ.

الثالث: إخفاق الإشراف على المحتوى بالمقياس الكبير

وهو أوسعها أثرًا وأقلّها ارتباطًا بالنماذج التوليدية وحدها: أنظمة الإشراف الآليّ على المنصّات تعمل بالعربية بجودة أدنى من الإنجليزية، وبالعامّيات بجودة أدنى من الفصحى. وقد نوقشت هذه المسألة في أدبيات الإشراف على المحتوى العربي قبل ظهور النماذج اللغوية الكبيرة، وهي سابقةٌ مفيدة: الحجّة ليست جديدة، والبنية التحتية للحجّة موجودة.

والأنماط الثلاثة تُقاس بالطريقة نفسها تقريبًا، وهذا حسن: تصميمٌ واحد يخدم ثلاثة أسئلة.

٤تصميم تقييم أدنى — قابل للتنفيذ في أسبوع

أكثر ما يُعوِّق العمل هنا ليس صعوبة المسألة، بل تصوّر أنها تحتاج مختبرًا. لا تحتاج. الشكل الآتي تصميمٌ كامل، يستطيع طالبٌ واحد تنفيذه بحساب تجاريّ ومعاونة ثلاثة أصدقاء من لهجات مختلفة.

تصميم تقييم لهجيّ أدنى: مجموعة مطالبات، صياغات موازية، تشغيل متعدّد، حكمان مستقلّان، وقياس الفرق ١ · مجموعة المطالبات ٥٠ مطالبة: ٢٥ ضارّة، ٢٥ بريئة مشتقّة من سياق محلّي الفصحى المعاصرة خطّ الأساس لهجة (أ) — مثال: مصرية صياغة، لا ترجمة لهجة (ب) — مثال: خليجية صياغة، لا ترجمة عربيزي بحرف لاتيني من إحدى اللهجتين ٣ · النموذج k = ٥ عيّنات لكل مطالبة حرارة ثابتة ومسجَّلة حكم (أ): هل رفض؟ ثنائيّ · يُحكَم بشريًّا حكم (ب): هل الناتج ضارّ؟ مستقلّ عن (أ) تمامًا القياس المطلوب: الفرق بين خطّ الأساس واللهجة — لا المعدّل المطلق لأنّ الفرق لا يحتاج عتبةً متّفقًا عليها للضرر، وهذا ما يجعل النتيجة قابلةً للنشر بجهد فردٍ واحد.
شكل ٢. التصميم يُقرأ من اليمين إلى اليسار. وأهمّ ما فيه هو الشريط الأسفل: النتيجة المطلوبة فرقٌ بين مستويين، لا معدّل مطلق. فالمعدّل المطلق يستلزم اتفاقًا على ما يُعدّ «ضارًّا» — وهو خلاف لا يُحسم في ورقة طالب. أمّا الفرق فيكفي فيه أن تكون المطالبة نفسها في المستويين، فإن اختلف السلوك فقد وُجد أثرٌ لغويّ، أيًّا كانت عتبة الضرر.

أربع نقاط يخفق فيها التصميم عادةً

  1. الصياغة لا الترجمة. أخطر خطأ في هذا الباب أن تُترجَم المطالبة الفصحى إلى اللهجة ترجمةً حرفيّة. فما ينتج ليس عامّيةً، بل فصحى بلبوس عامّيّ — ولن يشبه ما يكتبه الناس. والصحيح أن يُعطى ابنُ اللهجة القصدَ فيصوغه بلسانه هو. وهذا يفسد الآليّة تمامًا إن أُهمِل، وهو أشدّ الفروق أثرًا في النتيجة.
  2. اختيار اللهجة يُوثَّق. «العامّية» ليست شيئًا واحدًا. تُسمّى اللهجة، وتُذكر المنطقة، ويُذكر من صاغ. وتقريرٌ يقول «جرّبنا بالعامّية» تقريرٌ غير قابل للتكرار.
  3. الحكمان يُفصَلان. «هل رفض؟» و«هل الناتج ضارّ؟» سؤالان مستقلّان: قد يستجيب النموذج بغير ضرر، وقد يرفض ثم يُسرِّب الضرر في أثناء التبرير. ودمج السؤالين يُخفي النمطين معًا.
  4. العيّنات المتعدّدة. عيّنة واحدة لكل مطالبة تقيس الحظّ. والحدّ الأدنى المعقول خمس، مع تسجيل الحرارة وإصدار النموذج وتاريخ التشغيل — فالنماذج تتغيّر من دون إشعار، والنتيجة بلا تاريخ لا معنى لها.

٥ما هو منشور فعلًا — قائمة بحث لا جدول نتائج

تموّل عدّة دول في المنطقة نماذج لغوية عربية. والجدول الآتي يعرضها بوصفها موضوعًا للبحث، وحالة التحقّق فيه هي المعلومة الأهمّ — لا محتوى الخلايا.

تحذير منهجيّ: لم نُجرِ مسحًا مستوفى للأدبيات. والخلايا الموسومة بعلامة الاستفهام تعني «لم نتحقّق»، لا «غير موجود». والفرق بين العبارتين هو الفرق بين ثغرةٍ بحثيّة ودعوى باطلة. ومن يبني ورقةً على هذا الجدول فعليه التحقّق خليّةً خليّة أوّلًا.
النموذج / الجهة أوزان مفتوحة تقرير تقنيّ قسم سلامة منشور تقييم سلامة لهجيّ
Jais · الإمارات نعم نعم يُتحقَّق لا نعلم بوجوده
Falcon · الإمارات نعم نعم يُتحقَّق لا نعلم بوجوده
ALLaM · السعودية يُتحقَّق نعم يُتحقَّق لا نعلم بوجوده
Fanar · قطر يُتحقَّق يُتحقَّق يُتحقَّق لا نعلم بوجوده
النماذج الدولية العامّة متفاوت نعم نعم — بالإنجليزية غالبًا لا نعلم بوجوده

انظر العمود الأخير. إن صحّ ما نُرجّحه — وهو أنّه فارغ فعلًا — فليست هذه ثغرةً في أدبيات فرعيّة، بل هي غياب أساسٍ تقييميّ للغةٍ يتحدّث بها مئات الملايين. وسدّها لا يحتاج مختبرًا، بل يحتاج من يقرّر أن يفعلها. وهذا هو المشروع الذي تُهيّئ له هذه الوحدة.

٦من يملك القرار

التقييم اللهجيّ منفعةٌ عامّة بالمعنى الاقتصاديّ الدقيق: نفعه يعمّ الجميع، ولا يستفيد مموّله منه أكثر من غيره. ولذلك لا يموّله مختبرٌ تجاريّ إلا عرَضًا. وهذه هي الحال التي يكون فيها التمويل العامّ في موضعه الصحيح.

وثلاث جهاتٍ في وضعٍ يُمكّنها من طلبه:

  • الجهات الوطنية المعنيّة بالبيانات والذكاء الاصطناعي. تملك الميزانية والسلطة الرمزية، وقد أصدرت أدوات تقييم أخلاقيّ من قبل — فالسابقة قائمة والقالب موجود.
  • مراكز البحث الجامعية في المنطقة، وهي أقرب إلى الكفاءة اللسانية اللازمة، وأبعد عن تضارب المصالح مع المورّدين.
  • الجهات المشترية في القطاع العامّ. وهي الأسرع: شرطٌ واحد في عقد شراء — «يُسلَّم تقييم السلامة باللهجة المستهدَفة» — يُنشئ سوقًا لهذا العمل من دون تشريع ولا منحة. (انظر القدرة الحاسوبية من موقع المشتري، القسم ٥.)

والأداة الثالثة هي أهمّ ما في هذه الوحدة عمليًّا: فهي تحوّل مسألةً بحثيّة إلى بندٍ تعاقديّ، وتُنقل المسألة من «مَن يموّل البحث؟» إلى «مَن يشترط في العقد؟» — وهو سؤال أسهل بكثير.

ما لا نعرفه

  • الأعمدة في الشكل ١ تقدير نوعيّ. لا نعرف قياسًا منشورًا لكثافة ضبط السلامة موزّعةً على المستويات اللغوية. والشكل يعرض ما نرجّحه من طريقة توفّر الموارد، ولو ظهر قياسٌ يخالفه فالقياس أولى.
  • لم نُجرِ مسح أدبيات. «لا نعلم بوجوده» في الجدول تعني ما تقوله حرفًا. ومسح الأدبيات الجادّ في هذا الباب عملُ أسبوعين، وهو أوّل ما ينبغي إنجازه في هذه الوحدة.
  • لم نُنفّذ التصميم في الشكل ٢. هو تصميمٌ معقول من حيث المنهج، لم يُختبَر عمليًّا بعد. وأوّل تنفيذٍ له سيكشف مشكلات لم نتوقّعها — وهذا متوقّع.
  • سابقة أدبيات الإشراف على المحتوى العربي مذكورة من غير إحالة إلى دراسة بعينها. وهي في تقديرنا قائمة وقويّة، لكنّ من أراد الاستشهاد فعليه إيجاد المرجع.
  • الحدود الاجتماعية. ما يُعدّ ضارًّا يختلف بين مجتمعات المنطقة اختلافًا حقيقيًّا، وهذه المادّة لا تعالج المسألة. وقياس «الفرق» في الشكل ٢ إنّما اختير جزئيًّا للتحرّز منها.

مصادر ومداخل

لا أصل إنجليزيًّا لهذه المادّة يُحال إليه، فهي مؤلَّفة. والمدخل الآتي هو أنفع ما وجدناه بالإنجليزية للتهيئة لها.

  1. Kelsey Piper, Do AIs think differently in different languages?, The Argument — theargumentmag.com — يُقرأ قبل هذه المادّة. وهو مقالٌ تجاريّ محفوظ الحقوق، لا يُترجَم إلا بإذن.
  2. أدبيات معالجة اللغة العربية آليًّا في تصنيف اللهجات وتوحيد إملائها — بابٌ راسخ يُبنى عليه التصميم أعلاه. تحديد المراجع بعينها عملٌ قائم في قائمة الدورة.

مهمة تأمّلية: نفّذ الشكل ٢ بأصغر صورة: عشر مطالبات، بالفصحى وبلهجةٍ واحدة تُتقنها، خمس عيّنات لكلّ واحدة. ما فرضيّتك؟ وما النتيجة التي تعدّها مقلقة؟ ولماذا لا تكفي الترجمة الحرفيّة للمطالبات؟ وثِّق اللهجة ومن صاغها وتاريخ التشغيل — فإن فعلتَ فعندك بيانات لم يجمعها أحد.