حوكمة الذكاء الاصطناعي وسلامته AI Governance and Safety · دورة عربية مفتوحةArabic open course

نموذج أولي · مسودة Prototype · Draft

حوكمة الذكاء الاصطناعي وسلامته في المنطقة العربية AI Governance and Safety in the Arab Region

AI Governance and Safety in the Arab Region حوكمة الذكاء الاصطناعي وسلامته في المنطقة العربية

دورة مفتوحة ومجانية، في ستّ وحدات، موجَّهة لمن يريد العمل على سياسات الذكاء الاصطناعي وسلامته انطلاقًا من المنطقة العربية — بالمصادر الأصلية، لا بالترجمة وحدها. A free, open, six-unit course for people who want to work on AI policy and safety from the Arab region — taught from primary sources rather than translation alone.

الصيغةFormat
٦ وحدات · ٩٠ دقيقة للجلسة · فردي أو ضمن مجموعة6 units · 90-minute sessions · solo or cohort
اللغةLanguage
العربية أساسًا، مع الإنجليزية للمراجع التقنيةArabic-primary, English for technical sources
التكلفةCost
مجانية · رخصة مفتوحةFree · openly licensed
الجمهورAudience
باحثون ومحامون وتقنيون في بداية المسارEarly-career researchers, lawyers, technologists
حالة النموذج:Prototype status: كانت القراءات كلّها روابط إلى مقالات إنجليزية. وقد صارت أربع قراءات عربية جاهزة — ثلاث منها مؤلَّفة تأليفًا، والرابعة ترجمة كاملة غير رسمية لم يصل إذن ناشرها بعد. والباقي على المنهاج نفسه: ما كُتب لقارئٍ في جهةٍ تُنتِج النموذج يُؤلَّف من جديد، وما كان قابلًا للنقل يُترجَم. وهذا التأليف هو العمل الذي يحتاج تمويلًا. The readings were all links to English articles. Four Arabic readings now exist — three authored outright, one a full unofficial translation whose publisher's permission has not yet come through. The rest follow the same rule: what was written for a reader inside a producer jurisdiction gets authored afresh; what is genuinely portable gets translated. The authoring is the work that needs funding.

لماذا هذه الدورةWhy this course

توجد أطر وطنية لأخلاقيات الذكاء الاصطناعي بالعربية. لكن لا توجد — بحسب ما أمكن التحقق منه — دورة عربية مفتوحة ومجانية في حوكمة الذكاء الاصطناعي وسلامته. National AI ethics frameworks exist in Arabic. What does not exist, as far as could be verified, is a free and open Arabic-language course in AI governance and safety.

A corroborating data point: the Gulf's own independent AI safety community organisation publishes and runs its literacy and governance programming in English. The gap is not that the region lacks people working on this. It is that the working language is English, and the entry ramp for everyone else is missing. ومما يعزّز ذلك أنّ أبرز منظمة أهلية معنيّة بسلامة الذكاء الاصطناعي في الخليج تنشر برامجها وتديرها بالإنجليزية. فالنقص ليس في الكفاءات، بل في أنّ لغة العمل إنجليزية، وأنّ باب الدخول لمن سواهم غير موجود.

بنية الدورةCourse structure

Two kinds of unit. Core units are portable — they would be the same in any jurisdiction, and are drawn from established open material. Regional units are the reason this course exists; there is no equivalent to adapt. نوعان من الوحدات. الوحدات الأساسية قابلة للنقل، ولا تختلف من بلد إلى آخر، وتعتمد على مواد مفتوحة قائمة. أمّا الوحدات الإقليمية فهي سبب وجود هذه الدورة، إذ لا يوجد ما يُقتبَس منه.

١01

مدخل إلى حوكمة الذكاء الاصطناعي وسلامتهIntroduction to AI governance and safety

Introduction to AI governance and safety

What the field is, what the main risk arguments are, and who the actors are. Established open material carries this unit almost entirely. ما هذا الحقل، وما أبرز الحجج حول المخاطر، ومن الفاعلون فيه. تعتمد هذه الوحدة كليًا تقريبًا على مواد مفتوحة قائمة.

أساسيةCore

أهداف التعلّمLearning objectives

  • التمييز بين «سلامة الذكاء الاصطناعي» و«أخلاقياته»، ومعرفة أين يلتقيان وأين يفترقان.Distinguish AI safety from AI ethics, and see where the two meet and where they part.
  • عرض أبرز الحجج حول المخاطر، وتحديد ما تستند إليه كلٌّ منها من أدلة.State the main risk arguments and identify what evidence each rests on.
  • تحديد الفاعلين: الدول، والمختبرات، وهيئات المعايير، والمجتمع المدني.Map the actors: states, labs, standards bodies, civil society.

القراءاتReadings

  • حجّتان في المخاطر — وأين يقع الخلاف فعلًاTwo Arguments About Risk — and where they actually disagree اقرأ بالعربيةread in Arabic مادة أصلية تُغني عن القراءتين الإنجليزيّتين أدناه: تعرض الحجّتين، ثم تحدّد موضع الاتفاق والافتراق، وتسأل ما يترتّب عليهما لقارئٍ في جهةٍ تستورد النماذج ولا تبنيها — وهو سؤال لا يطرحه الأصلان.Original Arabic material that stands in for the two English readings below: it states both cases, locates where they agree and diverge, and asks what each implies for a reader in a jurisdiction that imports rather than builds — a question neither original addresses.
  • التقرير الدولي لسلامة الذكاء الاصطناعي — النسخة العربيةThe International AI Safety Report — Arabic edition المرجع الأشمل المتاح بالعربية. تُقرأ منه الفصول التمهيدية. وجوده بالعربية دون نظير بالعبرية مثلًا يقول شيئًا عن أولويات الحقل.The most comprehensive Arabic-language reference available. Read the introductory chapters. That it exists in Arabic at all — while other languages have no equivalent — says something about the field's priorities.
  • AI as Normal Technology — Narayanan & Kapoor الحجّة المضادة لأطروحة المخاطر الوجودية: الذكاء الاصطناعي تقنية عادية تنتشر ببطء وتُحكَم بالأدوات المألوفة. تُقرأ لتكوين موقف، لا لتبنّيه.The counter-argument to existential-risk framing: that AI is an ordinary technology, diffusing slowly and governable by familiar means. Read it to form a position, not to adopt one.
  • Risks from power-seeking AI systems — 80,000 Hours ترجمة عربيةArabic translation عرض منهجي للحجّة المقابلة. اقرأها بعد السابقة مباشرة. والترجمة العربية كاملة مع مسرد مصطلحات، وهي ترجمة غير رسمية والإذن لم يصل بعد.A systematic statement of the opposing case. Read it directly after the previous item. A full Arabic translation with a terminology glossary exists — unofficial, pending the publisher's permission.

مهمة تأمّلية: أيّ الحجّتين أقنع لك؟ وما الدليل الذي لو ظهر لغيّر رأيك؟ اذكره تحديدًا.Reflection: Which of the two arguments do you find more persuasive? Name the specific evidence that would change your mind.

٢02

كيف تُصنع سياسات الذكاء الاصطناعيHow AI policy gets made

How AI policy gets made

Theories of change, insider and outsider routes, and how soft law works — the literature on governing an emerging technology through guidance rather than statute is directly relevant, because that is what most regional instruments are. نظريات التغيير، ومساران من الداخل ومن الخارج، وكيف يعمل القانون المرن. أدبيات حوكمة التقنيات الناشئة بالإرشادات لا بالتشريع وثيقة الصلة هنا، لأنّ معظم الأدوات الإقليمية من هذا النوع.

أساسيةCore

أهداف التعلّمLearning objectives

  • التمييز بين التشريع المُلزِم والقانون المرن والمعايير التقنية، ومعرفة أيّها يحكم الذكاء الاصطناعي فعليًا في المنطقة.Distinguish binding legislation, soft law and technical standards — and know which of them actually governs AI in the region.
  • تحديد نافذة السياسات: متى تُفتح، ومَن يملك القرار عند فتحها.Identify the policy window: when it opens, and who decides once it does.
  • المقارنة بين مسار الداخل ومسار الخارج في إحداث التغيير.Compare insider and outsider routes to change.

القراءاتReadings

  • Hagemann, Huddleston Skees & Thierer — Soft Law for Hard Problems القراءة المحورية في هذه الوحدة. معظم أدوات المنطقة إرشادات غير مُلزِمة، وهذه الورقة تشرح متى يكون ذلك اختيارًا محسوبًا ومتى يكون تهرّبًا.The central reading here. Most regional instruments are non-binding guidance, and this paper explains when that is a considered choice and when it is an evasion.
  • Gabriel Weil — Instrument Choice in AI Governance الحجّة المقابلة: أنّ المسؤولية القانونية، لا الإرشادات، هي ما ينبغي أن يكون في المركز. تُقرأ في مواجهة السابقة.The opposing case: that liability, not guidance, belongs at the centre. Read it against the previous item.
  • Paul Cairney — Policy Concepts in 1000 Words لماذا تظلّ السياسات جامدة سنوات ثم تتحرّك دفعةً واحدة. مفيد لفهم توقيت التدخّل.Why policy sits still for years and then moves all at once. Useful for understanding when to intervene.
  • James Özden — Why you can justify almost anything using historical social movements تحذير منهجي: الاستشهاد بالحركات التاريخية يُستعمَل لتبرير أي استراتيجية تقريبًا.A methodological warning: appeals to historical movements can be used to justify almost any strategy.

مهمة تأمّلية: اختر مسألةً واحدة تودّ تغييرها. حدِّد الأداة (تشريع أم لائحة أم إرشادات)، والجهة صاحبة القرار، والمدة المتوقّعة، وما الذي قد يُفشل المسعى.Reflection: Pick one thing you want changed. Name the instrument (legislation, regulation or guidance), the body that decides, the likely timeframe, and what would kill it.

٣03

السياسات الوطنية للذكاء الاصطناعي في المنطقةNational AI policies in the region

National AI policies in the region

The instruments themselves, read in Arabic where they were written in Arabic. See the table below. الأدوات نفسها، تُقرأ بالعربية حيثما كُتبت بالعربية. انظر الجدول أدناه.

إقليميةRegional

أهداف التعلّمLearning objectives

  • قراءة أداة وطنية في أصلها العربي، وتحديد ما تُلزِم به وما تكتفي بالتوصية به.Read a national instrument in its Arabic original and identify what it obliges versus what it merely recommends.
  • المقارنة بين أداتين وطنيتين من حيث النطاق وآلية الإنفاذ.Compare two national instruments on scope and enforcement mechanism.
  • تحديد موقع الأدوات الوطنية من التوصية الأممية العامة.Locate national instruments relative to the global UNESCO recommendation.

القراءاتReadings

  • توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعيThe UNESCO Recommendation on the Ethics of AI اعتمدتها ١٩٣ دولة عام ٢٠٢١، ولها نصّ عربي رسمي. أهمّ وثيقة حوكمة متاحة بالعربية، وهي الخلفية التي تُقرأ عليها كل الأدوات الوطنية.Adopted by 193 states in 2021, with an official Arabic text. The most significant governance document available in Arabic, and the backdrop against which every national instrument should be read.
  • الميثاق المصري للذكاء الاصطناعي المسؤولEgypt’s Charter for Responsible AI أوضح مثال عربي على القانون المرن: خمسة مبادئ وإرشادات تنفيذية، بلا إلزام. يُقرأ كاملًا؛ فهو قصير.The clearest Arabic example of soft law: five principles plus implementation guidance, with no binding force. Read it in full — it is short.
  • مبادئ أخلاقيات الذكاء الاصطناعي وأداة التقييم — السعوديةSaudi AI ethics principles and assessment tool تُقرأ بوصفها أدوات امتثال حكومية لا تعليمًا مستقلًا. الفارق بينهما هو الدرس.Read as government compliance tooling rather than independent education. The distinction is the lesson.

مهمة تأمّلية: قارن بين أداتين وطنيتين. أيّهما يُنشئ التزامًا يمكن لمتضرّر أن يحتجّ به؟ وإن لم تفعل أيٌّ منهما، فما البديل المتاح له؟Reflection: Compare two national instruments. Which creates an obligation a harmed person could actually invoke? If neither does, what recourse remains?

٤04

التنفيذ التقني: الحوسبة والتقييم والمعاييرTechnical implementation: compute, evaluation, standards

Technical implementation: compute, evaluation, standards

Why policy needs technical mechanisms. Compute governance is unusually live here: the region is acquiring frontier compute at scale, and access is shaped by another country's export rules. لماذا تحتاج السياسات إلى آليات تقنية. حوكمة القدرة الحاسوبية مسألة قائمة هنا تحديدًا: المنطقة تقتني قدرات حوسبة متقدّمة، والوصول إليها محكوم بقواعد تصدير بلد آخر.

أساسيةCore إضافة إقليميةRegional add-on

أهداف التعلّمLearning objectives

  • شرح سبب حاجة السياسات إلى آليات تقنية كي يكون لها أثر.Explain why policy needs technical mechanisms in order to have any effect.
  • وصف كيفية إدماج حوكمة القدرة الحاسوبية وتقييم النماذج في أدوات السياسات.Describe how compute governance and model evaluation get written into policy instruments.
  • تفسير كيف تُقيّد قواعد التصدير الأجنبية وصول المنطقة إلى الرقائق المتقدّمة.Explain how foreign export rules constrain regional access to advanced chips.
  • التمييز بين ما أُعلن عنه وما سُلِّم فعليًا في مشاريع الحوسبة الوطنية.Distinguish what has been announced from what has been delivered in national compute projects.

القراءاتReadings

  • القدرة الحاسوبية من موقع المشتريCompute Governance Read from the Buyer’s Seat اقرأ بالعربيةread in Arabic مادة أصلية تُغني عن القراءات الثلاث التالية. تحفظ التحليل المعتاد وتقلب نتيجته العملية: من لا يملك حلقةً في السلسلة فحوكمة الحوسبة عنده قيدٌ مفروض لا خيار سياسة — ومقبضه أسفل البوّابة: المشتريات، وترخيص مراكز البيانات، وشرط التقييم عند النشر.Original material standing in for the three readings that follow. It keeps the standard analysis and inverts its practical conclusion: for a state that controls no link in the chain, compute governance is a constraint imposed from outside, not a policy option — and its handles sit downstream: procurement, data-centre licensing, deployment conditions.
  • Computing Power and the Governance of AI — GovAI لماذا صارت القدرة الحاسوبية أداة الحوكمة الأكثر قابلية للقياس والضبط.Why compute has become the most measurable and controllable lever in governance.
  • Erich Grunewald — How AI Chips Are Made · Compute is a Strategic Resource سلسلة التوريد لا تُفهم الحوكمة من دونها. المنطقة تشتري القدرة ولا تتحكّم في السلسلة.Governance is unintelligible without the supply chain. The region buys capacity; it does not control the chain.
  • The United Arab Emirates’ AI Ambitions — CSIS أوضح دراسة حالة إقليمية: دولة صغيرة موسِرة تبني قدرة متقدّمة ضمن قيود تصدير لا تملك التأثير فيها.The clearest regional case study: a small, wealthy state building advanced capability inside export constraints it has little say over.
  • AI Risk Management Framework — NIST · ISO/IEC 42001 حيث تُحكَم التقنية بالإرشادات لا بالتشريع، تقوم المعايير التقنية بالعمل الحقيقي. وإليها تُحيل الجهات التنظيمية عمليًا.Where a technology is governed by guidance rather than statute, technical standards do the real work — and they are what regulators point to in practice.
  • AI benchmarking dashboard — Epoch AI لمعرفة ما تقيسه المعايير المرجعية فعلًا، وما لا تقيسه.For seeing what benchmarks actually measure, and what they do not.

مهمة تأمّلية: اختر مشروع حوسبة وطنيًا معلَنًا في المنطقة. ما الذي أُعلن عنه بالضبط، وما الذي يمكن التحقّق من تسليمه؟ وما الفجوة بينهما؟Reflection: Take one announced national compute project in the region. What exactly was announced, what can be verified as delivered, and what is the gap between them?

٥05

النماذج اللغوية العربية: السلامة والتقييمArabic language models: safety and evaluation

Arabic language models: safety and evaluation

The most distinctive unit, and the one with no equivalent anywhere. Several states now fund national Arabic models. Almost all published safety evaluation is English-only, and Arabic is not one language but a standard register plus many dialects — so a model that behaves safely in Modern Standard Arabic may not in Gulf, Egyptian or Levantine usage. Nobody has measured this properly. أكثر الوحدات تميّزًا، ولا نظير لها في أي مكان. تموّل عدة دول اليوم نماذج لغوية عربية وطنية. ومعظم أعمال تقييم السلامة المنشورة بالإنجليزية وحدها، والعربية ليست لغة واحدة بل فصحى ولهجات متعددة — فقد يسلك النموذج سلوكًا آمنًا بالفصحى دون الخليجية أو المصرية أو الشامية. ولم يُقَس هذا قياسًا جادًا بعد.

إقليميةRegional

أهداف التعلّمLearning objectives

  • شرح لماذا تُعدّ العربية لغةً صعبة على النماذج: الازدواجية اللغوية، وتعدّد اللهجات، وشحّ الموارد المصنَّفة.Explain why Arabic is hard for language models: diglossia, dialect multiplicity, and scarce annotated resources.
  • تحديد الفرق بين تقييم السلامة بالفصحى وتقييمها باللهجات، وسبب أهمّيته.Identify the difference between safety evaluation in Modern Standard Arabic and in dialect, and why it matters.
  • قراءة النماذج اللغوية الوطنية بوصفها سياسة لغوية وثقافية لا منتجًا تقنيًا فحسب.Read national language models as language and cultural policy, not merely as technical products.
  • تصميم تقييم بسيط قابل للتنفيذ.Design a simple, executable evaluation.

القراءاتReadings

  • Kelsey Piper — Do AIs think differently in different languages? المدخل إلى الوحدة كلها. إن اختلف سلوك النموذج باختلاف اللغة، فالتقييم بالعربية ليس ترجمةً تُضاف إلى السياسات، بل مسألة سياسات قائمة بذاتها.The entry point to the whole unit. If model behaviour varies by language, then Arabic evaluation is not translation appended to policy — it is a policy question in its own right.
  • النماذج العربية الوطنية — مسح للمشهدNational Arabic models — a survey يُكتَبto write تموّل عدة دول اليوم نماذج لغوية عربية. لا يوجد مسح منشور يقرأها بوصفها أدوات سياسات. هذه المادة تُؤلَّف ولا تُقتبَس، ولا نظير لها.Several states now fund Arabic language models. No published survey reads them as policy instruments. This material has to be authored rather than borrowed — there is no equivalent.
  • الازدواجية اللغوية وسلامة النماذجDiglossia and Model Safety كُتِبتwritten اقرأ بالعربيةread in Arabic ضبط السلامة يتركّز في المستوى اللغويّ الذي لا يكتب به أحد. سُلّم المستويات، وثلاثة أنماط إخفاق لا نمط واحد، وتصميم تقييمٍ أدنى ينفّذه طالبٌ واحد في أسبوع — يقيس الفرق بين المستويات لا المعدّل المطلق. لا أصل إنجليزيًّا لها.Safety tuning concentrates in the register nobody writes in. The register ladder, three distinct failure modes rather than one, and a minimum viable evaluation a single student can run in a week — measuring the delta between registers rather than an absolute rate. No English original exists.

مهمة تأمّلية: صمِّم تقييمًا صغيرًا: عشرة مطالبات، تُطرَح بالفصحى وبلهجة واحدة. ما الفرضية؟ وما النتيجة التي تُعدّ مقلقة؟ ولماذا لا تكفي الترجمة الحرفية للمطالبات؟Reflection: Design a small evaluation: ten prompts, asked in Modern Standard Arabic and in one dialect. What is the hypothesis? What result would count as concerning? And why is literal translation of the prompts not sufficient?

٦06

من أين تبدأ: تصميم مساهمتكWhere to begin: designing your contribution

Where to begin: designing your contribution

A capstone: one concrete proposal naming an instrument, a venue, a decision-maker, and what would show the idea to be wrong. Writable in Arabic or English. مشروع ختامي: مقترح واحد محدَّد يُسمّي الأداة والجهة وصاحب القرار، وما الذي يُثبت خطأ الفكرة. يُكتب بالعربية أو الإنجليزية.

أساسيةCore

أهداف التعلّمLearning objectives

  • صياغة سؤال بحثي قابل للإجابة، لا موضوع عام.Frame an answerable research question rather than a general topic.
  • اختيار شكل الكتابة المناسب: ورقة سياسات، أو تحليل قانوني، أو مقال رأي.Choose the right form: a policy paper, a legal analysis, or an opinion piece.
  • تحديد ما يُثبت خطأ الفكرة — لا ما يدعمها فحسب.State what would show the idea to be wrong — not only what supports it.

القراءاتReadings

  • Toby Ord — Inference Scaling and AI Governance نموذج لورقة سياسات: يُقرأ لبنيته ومنهجه، لا لموضوعه.A model policy paper: read it for structure and method, not for its subject.
  • Future frontiers for research in law and AI — LawAI · AI Governance: A Research Agenda — GovAI لمن تعثّر في اختيار سؤاله. لاحظ أنّ أيًّا من هذه الأجندات لا يتناول اللغة العربية — وتلك ثغرة، لا مصادفة.For anyone stuck choosing a question. Note that none of these agendas addresses Arabic — that is a gap, not an oversight.

المشروع الختامي: مقترح في صفحتين يُسمّي: الأداة، والجهة، وصاحب القرار، والقيد الذي عليه أن يتجاوزه، وما الذي يُثبت خطأ نظريتك في التغيير. ثم اكتب في فقرة واحدة أقوى اعتراض تعجز عن الردّ عليه.Capstone: A two-page proposal naming the instrument, the venue, the decision-maker, the constraint it must survive, and what would falsify your theory of change. Then write, in one paragraph, the strongest objection you cannot answer.

الأدوات الوطنية — وحدة ٣National instruments — Unit 3

Verification status is shown for each entry. Only the first group has been confirmed against sources; the second is a research list, not a set of claims. تُبيَّن حالة التحقّق لكل مُدخَل. المجموعة الأولى وحدها جرى التحقّق منها بالمصادر؛ أمّا الثانية فقائمة بحث لا مجموعة ادّعاءات.

الجهةBody الأداةInstrument ملاحظةNote التحقّقVerified
الهيئة السعودية للبيانات والذكاء الاصطناعي
SDAIA, Saudi Arabia		 مبادئ أخلاقيات الذكاء الاصطناعي · أداة تقييم أخلاقي · مبادرة «سماي» للتدريبAI ethics principles · an ethics assessment tool · the SAMAI training initiative بالعربية. أدوات امتثال حكومية، لا تعليم مستقل — وهو فارق يُدرَّس.In Arabic. Government compliance tooling rather than independent education — a distinction worth teaching. ✓
المجلس الوطني للذكاء الاصطناعي
Egypt		 الميثاق المصري للذكاء الاصطناعي المسؤول
Charter for Responsible AI, v1.0, April 2023		 غير مُلزِم. خمسة مبادئ وإرشادات تنفيذية. أوضح مثال عربي على القانون المرن.Non-binding. Five principles plus implementation guidance. The clearest Arabic-language example of soft law. ✓
المغربMorocco تقييم الجاهزية لليونسكوUNESCO AI Readiness Assessment الدولة العربية الوحيدة المؤكَّد إتمامها التقييم.The only Arab state confirmed to have completed one. ✓
لبنانLebanon وزارة دولة للتكنولوجيا والذكاء الاصطناعي (٢٠٢٥)Ministry of State for Technology and AI (2025) من مصدر ثانوي؛ يُراجَع بالمصدر الأصلي.From secondary reporting; confirm against a primary source. ~

قائمة بحث — لم يجرِ التحقّق بعدResearch list — not yet verified

Named honestly as gaps rather than presented as content. Each needs a primary source before it is taught. تُذكر بوصفها ثغرات لا محتوى. كلٌّ منها يحتاج مصدرًا أصليًا قبل تدريسه.

مواد أساسية قائمةExisting core material

The core units lean on open, country-neutral material so that effort goes into the regional units. The first item anchors the Arabic track. تعتمد الوحدات الأساسية على مواد مفتوحة غير مرتبطة ببلد، ليتركّز الجهد على الوحدات الإقليمية. والمادة الأولى هي مرتكز المسار العربي.

ما ينقص هذا النموذجWhat this prototype does not yet have