حجّتان في المخاطر — وأين يقع الخلاف فعلًا

١لماذا نبدأ بخلاف لا بتعريف

«سلامة الذكاء الاصطناعي» ليست حقلًا متّفقًا على حدوده. وهي ليست فرعًا من «أخلاقيات الذكاء الاصطناعي»، ولا هي اسم آخر له. الأصحّ أنّ هناك جماعتين بحثيتين، لكلٍّ منهما مجلّاتها ومؤتمراتها وممولوها، تتقاطعان في التوصيات أكثر مما تتقاطعان في الأسباب.

الجماعة الأولى تنطلق من الأضرار القائمة والقابلة للقياس: التحيّز في أنظمة القرار، والتضليل، وانتهاك الخصوصية، وتركّز القوّة الاقتصادية في شركات قليلة. والثانية تنطلق من احتمال إخفاق مستقبلي أشدّ: أن تبلغ الأنظمة قدرةً يصعب عندها الاحتفاظ بالسيطرة عليها. والفرق بين المنطلقين ليس فرقًا في الحرص، بل في تقدير احتمالٍ لا تكفي البيانات المتاحة لحسمه.

من هنا فالطريقة الرشيدة في تعلّم هذا الحقل ليست حفظ تعريف، بل الإحاطة بأقوى صياغة لكلٍّ من الحجّتين، ثم تحديد موضع الخلاف بدقّة. ومن يفعل ذلك يكتشف — كما سنرى — أنّ مساحة الاتفاق أوسع بكثير مما يبدو من الجدل العلني، وأنّ الخلاف الحقيقي يتلخّص في سؤالين لا أكثر.

٢الحجّة الأولى: تقنية عادية تنتشر ببطء

أوضح صياغة معاصرة لهذه الحجّة عند أرفيند نارايانان وسايَش كابور، في مقالتهما AI as Normal Technology. ودعواها أنّ الذكاء الاصطناعي ينبغي أن يُفهَم على قياس الكهرباء أو الإنترنت: تقنية عامّة الغرض بالغة الأثر، لكنها تنتشر عبر المؤسسات بمعدّل تحدّده المؤسسات نفسها لا التقنية.

وتقوم الحجّة على ثلاث دعامات:

• القدرة ليست قوّة. بين ما يستطيع النموذج فعله في المختبر وما يفعله في العالم تقع سلسلة طويلة: اعتماد تنظيمي، وتدريب موظفين، وإعادة تصميم إجراءات، وتحمّل مسؤولية قانونية عند الخطأ. وهذه السلسلة هي ما يحكم الأثر الفعلي.
• الانتشار بطيء وقابل للرصد. شهدت التقنيات السابقة فجوةً من عقود بين الاختراع والأثر الاقتصادي المقيس. والافتراض بأنّ هذه المرّة ستكون الفجوة أشهرًا يحتاج دليلًا، لا مجرّد استئناس بمنحنيات القدرة.
• الأدوات المألوفة تكفي. إن كان الإخفاق يشبه إخفاقات التقنيات السابقة — تحيّز، وحوادث، وتركّز سوقي — فأدواته موجودة: تنظيم قطاعي، ومسؤولية مدنية، وإلزام بالشفافية، ورقابة على المشتريات العامّة.

والنتيجة السياسية لهذه الحجّة أنّ الاستثمار في «حكم النماذج» مباشرةً استثمار في غير محلّه؛ والأجدى تقوية الجهات التنظيمية القطاعية القائمة، وأسواق العمل، وقدرة الدولة على المساءلة.

٣الحجّة الثانية: أنظمة تسعى إلى القدرة

الصياغة المنهجية للحجّة المقابلة معروضة في ملفّ 80,000 Hours عن «مخاطر الأنظمة الساعية إلى القدرة». ودعواها أنّ نمط إخفاق جديدًا يصبح ممكنًا عند حدّ معيّن من القدرة، وأنّ هذا النمط لا تعالجه أدوات التنظيم المألوفة لأنه لا يشبهها.

وتقوم على ثلاث دعامات أيضًا:

• الأهداف الوسيطة المشتركة. أيّ نظام يسعى إلى غاية بعيدة يجد أنّ غايات وسيطة بعينها تخدم أغلب الغايات: الاستمرار في العمل، وتحصيل الموارد، ومقاومة التعديل أو الإيقاف. ولا يلزم أن يُبرمَج هذا السلوك صراحةً؛ يكفي أن يكون مُجزيًا.
• المواءمة مسألة غير محلولة. نحن لا ندرّب النماذج على الهدف، بل على وكيلٍ قابل للقياس عنه: تقدير بشري، أو تفضيل مُعلَن، أو دالّة مكافأة. والفرق بين الهدف ووكيله هو بابٌ للإخفاق، ويتّسع كلما زادت القدرة.
• القدرة قد تسبق أدوات الرقابة. إن نمت القدرة أسرع من نموّ قدرتنا على تقييمها وتفسيرها، فسنجد أنفسنا ننشر أنظمةً لا نملك وسيلة للتحقّق من سلوكها قبل النشر.

والنتيجة السياسية أنّ الأولوية للأدوات التي تعمل قبل النشر: التقييم الإلزامي، وحوكمة القدرة الحاسوبية، وسقوف على قدرات معيّنة، وقدرة تفتيش لدى الدولة.

٤أين يقع الخلاف فعلًا

لو اقتصرنا على الجدل العلني لخُيّل إلينا أنّ الجماعتين تختلفان في كل شيء. وليس الأمر كذلك. الشكل الآتي يعرض ما تتفقان عليه — وهو كثير — ثم يحدّد نقطة الافتراق.

وللملاحظة الأخيرة نتيجة عملية مهمّة: لا يلزم حسم الخلاف للبدء بالعمل. فمَن أراد إلزام الجهات الحكومية بتقييم النماذج قبل شرائها يجد سندًا في الحجّتين كلتيهما — لدى الأولى بوصفه ضبطًا للمشتريات، ولدى الثانية بوصفه أداة ما قبل النشر. وهذا التقاطع هو المساحة التي يُنجَز فيها أغلب العمل النافع.

٥الموقع الثالث: قارئ من جهة مستوردة

كُتبت الحجّتان في سياق واحد: بلد يُنتَج فيه النموذج. ويُفترَض في قارئهما أنّ لديه — عبر حكومته أو جامعته أو صحافته — سبيلًا إلى التأثير في قرارات التدريب نفسها. وهذا الافتراض لا يصحّ في معظم المنطقة العربية.

وهذا التمييز يعيد ترتيب الأولويات على نحو لا تصل إليه أيّ من الحجّتين وحدها. فالنقاش حول «معدّل الانتشار» يتغيّر معناه حين لا تكون أنت مَن ينشر بل مَن يتلقّى؛ ونقاش «حوكمة القدرة الحاسوبية» يتغيّر حين تكون مشتريًا لا مصنّعًا (وهي مسألة الوحدة الرابعة). والأهمّ: ثمّة قدرة واحدة تلزمك على الموقفين معًا، ولا يوفّرها لك أحد، وهي القدرة على تقييم النموذج في اللغة التي سيُستخدَم بها فعلًا. فإن صحّت الحجّة الأولى، فالتقييم شرط المشتريات الرشيدة؛ وإن صحّت الثانية، فالتقييم خطّ الدفاع الأول. وفي الحالتين لن يُجريه المختبر عنك بالعربية — وهذه مسألة الوحدة الخامسة.

ومن هنا فإنّ الموقف المتماسك للقارئ في المنطقة ليس اختيار إحدى الحجّتين، بل ملاحظة أنّ كلتيهما تُفضي — من موقعه هو — إلى الاستثمار في القدرة التقييمية. وهذا استنتاج غائب عن المصدرين الإنجليزيين لأنّ سؤالهما لم يكن سؤاله.

٦ماذا يترتّب على كل موقف عمليًا

انظر العمود الأخير: الأدوات المتاحة للجهة المستوردة هي نفسها في الحالتين. وهذا ليس تلفيقًا توفيقيًا بين الحجّتين، بل نتيجة اختلاف الموقع.