مجلة الذكاء الاصطناعي

العالم يتغير بسرعة تفوق القدرة على التتبع، يصبح فهم الذكاء الاصطناعي ضرورة لا رفاهية. مجلة الذكاء الاصطناعي منصة معرفية عربية تقدم رؤية متكاملة تجمع بين العمق التقني والتطبيق العملي والأثر المهني والمجتمعي، من المفاهيم الأساسية إلى أحدث التطورات. هنا لا يُعرض الذكاء الاصطناعي كأداة فقط، بل كقوة تعيد تشكيل المستقبل وتفتح أبوابًا جديدة للفهم والعمل. .

إطار قانوني عملي للتدقيق الخوارزمي: نموذج تشغيلي للمساءلة والحوكمة

إنفوجرافيك يوضح إطاراً قانونياً للتدقيق الخوارزمي يجمع بين رموز القانون (ميزان، مطرقة) وتقنيات الذكاء الاصطناعي (شبكات، رسوم بيانية) مع مستندات امتثال وأيقونات تشغيلية لتعزيز الحوكمة والمساءلة.
إطار قانوني عملي للتدقيق الخوارزمي

الملخص التنفيذي

يهدف هذا البحث إلى سد الفجوة بين النظرية القانونية والممارسة التشغيلية في مجال حوكمة الذكاء الاصطناعي، من خلال تقديم إطار قانوني عملي للتدقيق الخوارزمي يقوم على دورة حياة قانونية متكاملة تمتد من التصميم إلى ما بعد النشر، وثلاث أدوات مترابطة هي: بطاقة الامتثال الخوارزمية لتوثيق خصائص النظام ومخاطره، ومصفوفة التدقيق الخوارزمي كخريطة منهجية للمدقق، ونموذج تقرير التدقيق الموحّد لتوثيق النتائج والتوصيات. ويُحدث الإطار المقترح تحولاً جوهرياً في مفهوم المساءلة الخوارزمية، من البحث عن جهة مسؤولية واحدة إلى تصميم منظومة امتثال مستمرة وقابلة للتقويم، مع إثبات عملي لقابليته للتطبيق من خلال محاكاة لنظام توظيف آلي، لتكون بذلك أداة مرجعية للمشرعين والمؤسسات الساعية إلى تحقيق الشفافية والعدالة في عصر الأنظمة الذكية.

مقدمة

أدى الانتقال المتسارع من مجتمع تُصنع فيه القرارات حصراً بواسطة الفاعل البشري إلى مجتمع تشارك فيه الخوارزميات وأنظمة الذكاء الاصطناعي في صناعة القرار، أو تستقل به جزئياً أو كلياً، إلى نشوء إشكاليات قانونية مركبة تتجاوز قدرة النظريات التقليدية للمسؤولية والرقابة.

لم يعد القانون يواجه مجرد أدوات تقنية تعين البشر، بل صار في مواجهة بنى تقنية تمارس سلطة معيارية وتنظيمية، وتنتج آثاراً قانونية ملموسة، من دون أن تتوفر لها غالباً ذاتية قانونية، ولا أن تخضع لآليات مساءلة متجانسة[^1].

وفي صلب هذه الإشكاليات تبرز أربع ظواهر مترابطة: غموض عملية اتخاذ القرار، وضعف قابلية التفسير، والتحيز الخوارزمي، وفجوات المسؤولية القانونية.

وقد أدى تفاقم هذه الظواهر إلى ظهور التدقيق الخوارزمي بوصفه استجابة تنظيمية وقانونية تُراد منها إعادة بناء آليات للمساءلة في سياقات مؤتمتة، دون أن تكون النماذج المتاحة حتى الآن قد بلغت مستوى النضج النظري ولا الدقة التشغيلية المطلوبة[^2].

رؤية جوهرية: جوهر مشكلة المساءلة الخوارزمية يكمن في أن الخوارزميات تمارس سلطة تنظيمية معيارية مع غياب ذاتية قانونية تخضع للمساءلة.

ثانياً: إشكالية البحث

تتمحور هذه الدراسة حول سؤال رئيس: كيف يمكن بناء إطار قانوني عملي للتدقيق الخوارزمي يضمن المساءلة والشفافية والامتثال القانوني لأنظمة الذكاء الاصطناعي دون أن يؤدي إلى شل حركة الابتكار التقني أو التضييق غير المبرر على الفاعلين الاقتصاديين؟

ويتفرع عن هذا السؤال عدد من الأسئلة الفرعية: ما طبيعة السلطة التي تمارسها الخوارزميات؟ أين تقع فجوة المساءلة تحديداً؟ ما حدود أدوات القانون التقليدي في معالجة هذه الفجوة؟ كيف تعالج التشريعات والأطر التنظيمية المقارنة إشكالية التدقيق الخوارزمي؟ وما العناصر التي ينبغي أن يتألف منها نموذج قانوني تشغيلي يأخذ بعين الاعتبار الطبيعة الدينامية والمتطورة لأنظمة الذكاء الاصطناعي؟

ثالثاً: أهداف الدراسة

تسعى الدراسة إلى تحقيق ستة أهداف مترابطة:

  1. تأسيس نظرية قانونية للتدقيق الخوارزمي تربط بين مفهوم السلطة الخوارزمية وأزمة المساءلة.
  2. تحليل أزمة المسؤولية القانونية في ظل أنظمة الذكاء الاصطناعي، وفهم جذور فجوة المساءلة.
  3. دراسة التجارب التنظيمية الدولية (الاتحاد الأوروبي، الولايات المتحدة، كندا، المملكة المتحدة) دراسة نقدية مقارنة.
  4. تطوير نموذج قانوني تشغيلي للتدقيق الخوارزمي يستند إلى إدارة المخاطر وتقييم الأثر.
  5. اقتراح معايير ومؤشرات قابلة للتطبيق لقياس الامتثال.
  6. بناء إطار امتثال للأنظمة عالية المخاطر يمكن اعتماده من قبل المشتغلين والمشرعين.

رابعاً: المنهجية

تعتمد الدراسة منهجية مركبة تجمع بين:

  • المنهج التحليلي: لتفكيك المفاهيم القانونية والتقنية وإبراز العلاقات بينها.
  • المنهج المقارن: لمقارنة النماذج التنظيمية في نظم قانونية مختلفة واستخلاص أفضل الممارسات.
  • المنهج النقدي: لتقييم المقاربات السائدة وكشف جوانب قصورها.
  • المنهج البنائي: لصياغة إطار قانوني جديد يستجيب للثغرات المحددة.
  • منهج دراسة الحالة: لاختبار النموذج المقترح على نظام واقعي للتحقق من قابليته للتطبيق.
ملاحظة معرفية: المنهجية المركبة ضرورية لموضوع يقع في تقاطع القانون والتقنية، حيث لا يمكن اختزال الإشكالية في بعد واحد.

معايير اختيار النماذج المقارنة

يستند اختيار النماذج التنظيمية الأربعة (الاتحاد الأوروبي، الولايات المتحدة، كندا، المملكة المتحدة) إلى أربعة معايير رئيسة: الريادة التنظيمية والتشريعية، التنوع المؤسسي والثقافي، التوفر المعلوماتي، والتأثير العالمي.

خلاصة منهجية: هذه المعايير ليست حصرية، لكنها تبرر الاختيار الحالي وتُكسب المقارنة صفة منهجية، مع الإقرار بإمكانية اختيار نماذج أخرى.

واقع حوكمة الذكاء الاصطناعي في العالم العربي

شهد العالم العربي تحركات ملموسة في مجال حوكمة الذكاء الاصطناعي. فقد أطلقت الإمارات "استراتيجية الإمارات للذكاء الاصطناعي 2031" وأنشأت وزارة للذكاء الاصطناعي. وأطلقت السعودية "استراتيجية البيانات والذكاء الاصطناعي" وأنشأت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا). كما أطلقت مصر والمغرب والأردن وقطر والكويت استراتيجيات وخططاً وطنية[^71][^72].

لكن المنطقة لا تزال تواجه تحديات: غياب تشريعات متخصصة، ضعف البنى المؤسسية للرقابة، ونقص الكفاءات المتخصصة. وتتميز المنطقة بفرص فريدة: إرادة سياسية عالية، استثمارات ضخمة، ومجتمع شاب قابل لتبني التقنيات الجديدة[^73].

خامساً: هيكل الدراسة

تنقسم الدراسة إلى أربعة أبواب رئيسة وخاتمة:

  • الباب الأول: الأساس النظري للمساءلة الخوارزمية.
  • الباب الثاني: التدقيق الخوارزمي ضمن منظومة حوكمة الذكاء الاصطناعي.
  • الباب الثالث: نظرية المخاطر الخوارزمية ومنهجية التدقيق.
  • الباب الرابع: الإطار القانوني التشغيلي المقترح.

الباب الأول: الأساس النظري للمساءلة الخوارزمية

الفصل الأول: السلطة الخوارزمية وتحول صناعة القرار

المبحث الأول: نشأة السلطة الخوارزمية

لا يمكن فهم التدقيق الخوارزمي بوصفه أداة قانونية دون الخوض في طبيعة السلطة التي تمارسها الخوارزميات. إن نشأة ما يمكن تسميته "السلطة الخوارزمية" هي تتويج لمسارين متوازيين: تطور الخوارزميات من أدوات رياضية إلى نظم تنبؤية، وانتقال الأتمتة من المهام التنفيذية إلى صميم صنع القرار[^5].

الخوارزمية لم تعد مجرد إجراء ميكانيكي، بل أصبحت في الأنظمة القائمة على التعلم الآلي كياناً يبني تمثيلاته الداخلية للعالم من خلال تحليل كميات هائلة من البيانات. وهذا ما تسميه هيلدبراندت بـ"القوة المعيارية للخوارزميات"[^6].

نموذج مبسط: الخوارزمية لم تعد أداة سلبية، بل أصبحت فاعلاً تنظيمياً يمارس سلطة موازية للقانون، لكن بمنطق مختلف تماماً.

المبحث الثاني: الخوارزمية كفاعل تنظيمي

تنظر مدرسة "القانون والتقنية" إلى الكود التقني بوصفه نظاماً معيارياً ينافس القانون في تنظيم السلوك، وهي الفكرة التي بلورها لورانس ليسيغ في "الكود هو القانون" (Code is Law)[^7].

هذه القوة التنظيمية تظهر في ثلاثة سياقات: خوارزميات المنصات الرقمية، خوارزميات التقييم والتصنيف، وخوارزميات إنفاذ القانون التنبؤية[^8].

المبحث الثالث: الخوارزمية بين الأداة والفاعل

السؤال الجوهري: هل تظل الخوارزمية مجرد أداة في يد الإنسان، أم أنها تكتسب استقلالية تجعلها أقرب إلى فاعل غير بشري[^9]؟

الاتجاه التقليدي يصر على فكرة الخوارزمية-الأداة، لكن هذا الموقف يصطدم بعائقين: الأنظمة التي تنتج سلوكاً لم يكن في حسبان البشر، وإفلات قرارات مؤثرة من الرقابة القانونية[^10].

تبرز هذه الدراسة نموذجاً وسيطاً: "المسؤولية الموزعة والحوكمة متعددة المستويات"، الذي لا ينشغل بالبحث عن فاعل وحيد، بل يصمم آليات للمساءلة المنتشرة عبر دورة حياة النظام[^11].

خلاصة الفصل الأول: فهم التدقيق الخوارزمي يستلزم استيعاباً لطبيعة السلطة التي تمارسها الخوارزميات، والانتقال من نموذج المسؤولية القائم على البحث عن المخطئ إلى نموذج المساءلة القائم على نظام قابل للتقويم.

الفصل الثاني: أزمة المسؤولية القانونية في عصر الذكاء الاصطناعي

المبحث الأول: مشكلة الصندوق الأسود

تصنف الدراسة، استناداً إلى تصنيف بوريل، ثلاثة أنماط من الغموض الخوارزمي: الغموض المتعمد، والغموض التقني، والغموض البنيوي[^12].

خطورة الصندوق الأسود تكمن في تعارضه مع المبادئ الأساسية للقانون، حيث يفترض القانون أن القرارات المؤثرة يجب أن تكون معللة وقابلة للفهم والطعن[^13].

التدقيق الخوارزمي لا يهدف إلى فتح الصندوق الأسود، بل إلى محاصرته بإجراءات رقابية تكفل تقويم مخرجاته، محولاً السؤال من "كيف يعمل النظام؟" إلى "هل يعمل النظام بطريقة منصفة؟".

المبحث الثاني: فجوة المساءلة

تقوم النظريات التقليدية للمسؤولية على افتراض وجود فاعل بشري واحد. لكن الأنظمة الذكية تقوّض هذا الافتراض من خلال ثلاث خصائص بنيوية[^14][^15][^16]:

  • تعدد الفاعلين وتشتت الأدوار: يصعب تحديد الفاعل الحقيقي.
  • الانفلات السببي: يصعب تتبع السلسلة السببية.
  • الفجوة الزمنية والمعرفية: قد ينتج النظام نتائج غير متوقعة بعد تصميمه.

فجوة المساءلة تمثل تحدياً وجودياً للنظام القانوني، وتفسر ضرورة الانتقال من نموذج المسؤولية إلى نموذج المساءلة القائم على "نظام قابل للتقويم"[^17].

المبحث الثالث: قصور النظريات التقليدية

عند تطبيق نظريات المسؤولية التقليدية على أنظمة الذكاء الاصطناعي، تظهر قصور بنيوي:

  • المسؤولية المدنية: صعوبة تحديد "الخطأ" أو "العيب" في نظام يتطور ذاتياً[^18].
  • المسؤولية الإدارية: افتقار القرارات المؤتمتة إلى "أسباب" قابلة للفهم[^19].
  • المسؤولية الجنائية: استحالة إسناد القصد أو الإرادة إلى النظام التقني.

المبحث الرابع: الحاجة إلى أدوات رقابية جديدة

تظهر الحاجة إلى ترسانة رقابية جديدة تقوم على ثلاث ركائز متكاملة[^20]:

  • الحوكمة: هياكل وقواعد وإجراءات لتوزيع المسؤوليات.
  • الامتثال: آلية لضمان التوافق مع المتطلبات القانونية والأخلاقية.
  • التدقيق: آلية تحقق مستقلة من صحة ادعاءات الامتثال.
ملاحظة معرفية: هذه الترسانة الثلاثية تشكل ما يمكن تسميته بـ"البنية التحتية القانونية للثقة في الأنظمة الذكية".
خلاصة الفصل الثاني: أزمة المسؤولية ليست مجرد فجوة تنظيمية، بل تعبير عن تحول بنيوي في طبيعة السلطة، يستدعي بناء أدوات رقابية جديدة تقوم على الحوكمة والامتثال والتدقيق.

الباب الثاني: التدقيق الخوارزمي ضمن منظومة حوكمة الذكاء الاصطناعي

الفصل الأول: الإطار المفاهيمي للتدقيق الخوارزمي

المبحث الأول: مفهوم التدقيق الخوارزمي

تعرف هذه الدراسة التدقيق الخوارزمي بأنه عملية فحص منهجي ومستقل لنظام ذكاء اصطناعي، تهدف إلى التحقق من امتثاله لمجموعة محددة من المعايير القانونية والتقنية والأخلاقية[^21].

وتقترح الدراسة مفهوماً مركباً للتدقيق الخوارزمي يشمل أربعة أبعاد مترابطة:

  1. تدقيق التصميم والبيانات للكشف عن التحيزات المضمنة في مرحلة ما قبل التشغيل.
  2. تدقيق الأداء والنتائج لتقييم سلوك النظام الفعلي.
  3. تدقيق الحوكمة والعمليات لفحص آليات اتخاذ القرار البشري المحيط بالنظام.
  4. تدقيق الأثر الحقوقي لقياس أثر النظام على الحقوق الأساسية.

المبحث الثاني: خصائص التدقيق الخوارزمي

يتميز التدقيق الخوارزمي بأربع خصائص جوهرية[^23][^24][^25]:

  • الاستقلالية: لا يمكن للتدقيق أن يؤدي وظيفته إن لم يكن المدقق مستقلاً عن الجهة المطورة والمشغلة.
  • التعددية المنهجية: تختلف منهجية التدقيق باختلاف السياق والتطبيق.
  • الاستمرارية الزمنية: النظام الخوارزمي يتغير عبر الزمن، لذا يجب أن يكون التدقيق مستمراً.
  • التعددية المعيارية: يخضع النظام لشبكة معقدة من المعايير القانونية والتقنية والأخلاقية.

المبحث الثالث: أنواع التدقيق

تتوزع نماذج التدقيق الخوارزمي على أربعة أنواع رئيسة[^26][^27][^28]:

  • التدقيق الداخلي: تمارسه فرق داخل المؤسسة، محدود القيمة بسبب ضعف الاستقلالية.
  • التدقيق الخارجي: يجريه طرف ثالث مستقل، يضفي مصداقية.
  • التدقيق التنظيمي: تمارسه هيئة تنظيمية عامة بموجب صلاحيات قانونية.
  • التدقيق المجتمعي: تقوده منظمات المجتمع المدني والصحافة الاستقصائية.
خلاصة جوهرية: الأنواع الأربعة للتدقيق ليست بدائل، بل طبقات متكاملة ينبغي أن تعمل معاً لضمان مساءلة شاملة.
خلاصة الفصل الأول: التدقيق الخوارزمي ليس مجرد إجراء تقني، بل هو عملية قانونية-تقنية-اجتماعية مركبة تتطلب استقلالية، وتعددية منهجية، واستمرارية زمنية، وتعددية معيارية.

الفصل الثاني: العلاقة بين الحوكمة والامتثال والتدقيق

المبحث الأول: مفهوم حوكمة الذكاء الاصطناعي

حوكمة الذكاء الاصطناعي هي بنية مؤسسية وقانونية متكاملة تهدف إلى ضمان تطوير ونشر واستخدام أنظمة الذكاء الاصطناعي وفق مسارات مسؤولة وخاضعة للمساءلة[^29].

المبحث الثاني: إدارة المخاطر الخوارزمية

إدارة المخاطر الخوارزمية تختلف عن إدارة المخاطر التقليدية في أمرين[^30][^31]:

  • المخاطر ليست مادية صرفة، بل معيارية تنطوي على قيم متضاربة.
  • النظام الذكي ليس مجرد مصدر للمخاطر، بل هو أيضاً أداة لإدارتها.

المبحث الثالث: التدقيق كآلية امتثال

إذا كانت الحوكمة تحدد ما ينبغي فعله، وإدارة المخاطر تحدد أين تكمن المشكلات، فإن الامتثال هو عملية التأكد من أن ما ينبغي فعله قد فُعل فعلاً[^32].

رؤية جوهرية: الامتثال المستمر يحل محل الامتثال الثنائي (ممتثل/غير ممتثل)، والتدقيق يتحقق من صحة الادعاءات.

المبحث الرابع: التدقيق كأداة للمساءلة

المساءلة، وفق بوفينز، هي "علاقة بين فاعل ومنتدى، يُلزم فيها الفاعل بتبرير سلوكه"[^33].

ملاحظة معرفية: التدقيق يحقق شرطين أساسيين للمساءلة: إجبار الجهة المسؤولة على تقديم حساب، وتوفير أساس موضوعي لتقييم الأداء.
خلاصة الفصل الثاني: الحوكمة والامتثال والتدقيق ثلاث ركائز متكاملة للمساءلة الخوارزمية، حيث التدقيق هو آلية المساءلة الديمقراطية في العصر الرقمي.

الفصل الثالث: التجارب التنظيمية المقارنة

المبحث الأول: الاتحاد الأوروبي (AI Act و GDPR)

يمثل الاتحاد الأوروبي المختبر الأكثر تقدماً في مجال حوكمة الذكاء الاصطناعي، من خلال النظام العام لحماية البيانات (GDPR) وقانون الذكاء الاصطناعي (AI Act)[^35].

يقدم GDPR ثلاث آليات داعمة للتدقيق الخوارزمي: المادة 22 (الحق في عدم الخضوع لقرارات آلية)، والمادة 35 (تقييم أثر حماية البيانات)، ومبدأ المساءلة العامة[^36].

أما AI Act (2024) فيمثل نقلة نوعية بتبنيه مقاربة قائمة على المخاطر، تصنف الأنظمة إلى أربع فئات، وتفرض متطلبات صارمة على الأنظمة عالية المخاطر، بما في ذلك تقييم المطابقة[^37].

تحديات النموذج الأوروبي: الاعتماد على التقييم الذاتي، غموض معايير تقييم المطابقة، ومحدودية صلاحيات سلطات السوق في مراقبة الأنظمة المتطورة ذاتياً.

المبحث الثاني: الولايات المتحدة

اتسمت المقاربة الأمريكية بالاعتماد على آليات السوق والتنظيم الذاتي، مع ظهور أدوات مثل "تقييم الأثر الخوارزمي" (AIA)[^38].

إشكاليات النموذج الأمريكي: غياب تشريع فيدرالي شامل، تركيز التقييم على الإفصاح والشفافية دون الإلزام بالتصحيح، واعتماد آليات إنفاذ متفرقة بدلاً من هيئة تنظيمية متخصصة.

المبحث الثالث: كندا

تقدم كندا نموذجاً عملياً من خلال "أداة تقييم الأثر الخوارزمي" التي تُلزم المؤسسات الحكومية بتقييم أنظمتها الآلية قبل النشر[^40].

حدود النموذج الكندي: النطاق محصور في القطاع الحكومي الفيدرالي، التركيز على مرحلة ما قبل النشر دون معالجة كافية للمراقبة المستمرة.

المبحث الرابع: المملكة المتحدة

اتبعت المملكة المتحدة مساراً يركز على بناء "بيئة ضمان" للذكاء الاصطناعي[^41].

نقطة الضعف: يفترض وجود سوق ناضجة لخدمات الضمان، والطابع الطوعي للإطار قد لا يكون كافياً.

المبحث الخامس: التحليل النقدي المقارن

تكشف المقارنة عن ثلاثة دروس رئيسة[^42][^43]:

  • الدرس الأول: لا يوجد نموذج واحد صالح لكل السياقات.
  • الدرس الثاني: التدقيق الخوارزمي يكون أكثر فاعلية حين يُدمج في إطار أوسع لإدارة المخاطر وتقييم الأثر.
  • الدرس الثالث: ثمة حاجة عاجلة لتطوير معايير دولية مشتركة.
خلاصة الفصل الثالث: استعراض التجارب الأربع يُظهر تنوع الاستجابات التنظيمية، ويؤكد ضرورة التكيف مع السياق الوطني، ودمج التدقيق مع إدارة المخاطر، وتطوير معايير دولية مشتركة.

الباب الثالث: نظرية المخاطر الخوارزمية ومنهجية التدقيق

الفصل الأول: نظرية المخاطر الخوارزمية

المبحث الأول: المخاطر الحقوقية

تتوزع المخاطر الحقوقية على أربعة محاور رئيسة[^44][^45][^46][^47]:

  • الخصوصية وحماية البيانات: قدرة الخوارزميات على استخلاص معلومات حساسة، وظهور مفهوم "الضرر المعلوماتي".
  • المساواة وعدم التمييز: التحيز الخوارزمي يضفي على التمييز مظهر الموضوعية، وقد ينتج تمييزات جديدة عبر "التمييز بالوكالة".
  • حرية التعبير والوصول إلى المعلومات: خوارزميات الترشيح والتوصية تتحكم في تدفق المعلومات وتشكل الرأي العام.
  • الحق في محاكمة عادلة: أنظمة تقدير المخاطر تثير تساؤلات حول حق الدفاع وقرينة البراءة.

المبحث الثاني: المخاطر المؤسسية

لا تقتصر المخاطر على الأفراد، بل تمتد للمؤسسات التي تطور الأنظمة الذكية أو تستخدمها[^48]:

  • مخاطر الامتثال: التعرض لعقوبات مالية وجزاءات تنظيمية.
  • مخاطر السمعة: ضرر سريع الانتشار نتيجة فشل النظام.
  • مخاطر المسؤولية القانونية: دعاوى تعويض واسعة النطاق.

المبحث الثالث: المخاطر المجتمعية

على المستوى الجمعي، تنتج الأنظمة الخوارزمية مخاطر تتجاوز الأضرار الفردية[^49][^50]:

  • التمييز الهيكلي: تعميق الفوارق بشكل تراكمي.
  • الإقصاء الرقمي: استبعاد الفئات الأقل قدرة رقمية.
  • التلاعب الاجتماعي: استهداف المستخدمين بمحتوى مضلل.

المبحث الرابع: تصنيف مستويات المخاطر

تقترح الدراسة تصنيفاً رباعياً لأنظمة الذكاء الاصطناعي[^51]:

  • المستوى المنخفض: أنظمة ذات أثر محدود (تدقيق ذاتي دوري).
  • المستوى المتوسط: أنظمة تؤثر في مصالح الأفراد (تدقيق خارجي عند التشغيل ثم سنوي).
  • المستوى المرتفع: أنظمة تمس حقوقاً أساسية (تدقيق خارجي إلزامي، دوري كل سنتين، مراقبة مستمرة).
  • المستوى غير المقبول: تهديد جسيم للحقوق (يُوصى بحظرها).
خلاصة الفصل الأول: المخاطر الخوارزمية ليست مجرد مشكلات تقنية، بل قضايا معيارية تتعلق بالقيم والعدالة وسيادة القانون.

الفصل الثاني: تقييم الأثر الخوارزمي

المبحث الأول: مفهوم تقييم الأثر

تقييم الأثر الخوارزمي هو عملية منهجية تُجرى قبل نشر النظام، تهدف إلى تحديد المخاطر المحتملة واقتراح تدابير لتخفيفها[^52].

المبحث الثاني: مراحل تقييم الأثر

تقترح الدراسة منهجية من خمس مراحل[^53]:

  1. تحديد السياق (وصف النظام، البيانات، الفاعلين).
  2. تحليل المخاطر (الحقوقية، المؤسسية، المجتمعية).
  3. إشراك أصحاب المصلحة (خاصة الفئات الضعيفة).
  4. خطة التخفيف (تدابير تقنية وقانونية).
  5. التوثيق والإفصاح (تقرير متاح للجمهور).

المبحث الثالث: مؤشرات التقييم

لتجنب أن يصبح التقييم إنشاءً عاماً، يجب ربطه بمؤشرات قابلة للقياس: نسبة الفئات الممثلة تمثيلاً ناقصاً، معدلات الخطأ التفاضلية، درجة قابلية القرار للتفسير، مستوى التدخل البشري، ووجود آلية تظلم.

خلاصة الفصل الثاني: التقييم والتدقيق حلقتان في دورة واحدة لإدارة المخاطر، حيث يوفر التقييم خط الأساس الذي يُقاس عليه الأداء أثناء التدقيق.

الفصل الثالث: منهجية التدقيق الخوارزمي

المبحث الأول: التدقيق القبلي

يُجرى قبل التشغيل ويشمل ثلاثة محاور[^54]: فحص البيانات، فحص التصميم، وتحليل المخاطر الأولي.

المبحث الثاني: التدقيق أثناء التشغيل

يركز على مراقبة أداء النظام الحي[^55]: مراقبة الأداء، كشف الانحياز، ومراقبة الانحراف.

المبحث الثالث: التدقيق اللاحق

يُجرى بعد فترة من التشغيل[^56]: تحليل النتائج، معالجة الشكاوى، وتقييم الامتثال المستمر.

خلاصة الفصل الثالث: التدقيق الفاعل ليس حدثاً منفرداً، بل عملية مستمرة تمتد عبر دورة حياة النظام بأكملها.

الفصل الرابع: معايير ومؤشرات التدقيق

تقترح الدراسة ستة معايير رئيسة[^57]:

  • الشفافية: الإفصاح عن النظام وبياناته، ويُقاس بمدى توفر بطاقة بيانات وبطاقة نموذج[^58].
  • القابلية للتفسير: شرح القرار بلغة مفهومة، باستخدام أدوات مثل SHAP و LIME[^59].
  • العدالة وعدم التمييز: مقاييس إحصائية متعددة (المساواة الديموغرافية، تكافؤ الفرص)[^60].
  • الخصوصية: تقييم مخاطر إعادة التعريف وهجمات استخلاص البيانات[^61].
  • الأمن السيبراني: مقاومة الهجمات العدائية وتسميم البيانات[^62].
  • الامتثال القانوني: توافق النظام مع القوانين المطبقة.
خلاصة الفصل الرابع: هذه المعايير تشكل الأساس لتقييم الأنظمة الذكية وتوفير لغة مشتركة بين المدققين والمشغلين والجهات التنظيمية.

الباب الرابع: الإطار القانوني التشغيلي المقترح

الفصل الأول: دورة الحياة القانونية للتدقيق الخوارزمي

يقوم النموذج على فكرة دمج التدقيق في دورة حياة النظام من التصميم إلى ما بعد النشر[^63]. وتشمل ست مراحل:

  1. التصميم القانوني: تحديد الإطار القانوني، دراسة الجدوى، وتقييم الأثر الأولي.
  2. تطوير النموذج: تدقيق قبلي يركز على البيانات والتصميم.
  3. الاختبار: تدقيق خارجي مستقل قبل النشر، وإصدار شهادة امتثال أولية.
  4. النشر: طرح النظام مع بطاقة امتثال خوارزمية متاحة للجمهور.
  5. المراقبة المستمرة: تدقيق ذاتي دوري وإبلاغ الهيئة التنظيمية بأي انحرافات.
  6. المراجعة الدورية: تدقيق خارجي كل سنتين أو عند التعديلات الجوهرية.
خلاصة الفصل الأول: دمج التدقيق في دورة حياة النظام يضمن استمرارية المساءلة ويحول الامتثال إلى عملية دينامية.

الفصل الثاني: النموذج المؤسسي للتدقيق

المبحث الأول: هيكل الحوكمة

يجب أن تنشئ المؤسسات "مجلساً لحوكمة الذكاء الاصطناعي" يضم ممثلين عن الإدارات القانونية والتقنية وأقسام الامتثال[^64].

المبحث الثاني: لجنة أخلاقيات الذكاء الاصطناعي

لجنة مستقلة تضم خبراء قانونيين وتقنيين وأخلاقيين وممثلين عن المجتمع المدني، تختص بمراجعة تقارير تقييم الأثر والتدقيق.

المبحث الثالث: فرق التدقيق

يجب أن تضم كفاءات متعددة التخصصات: قانونيين، علماء بيانات، مهندسي برمجيات، وخبراء أمن سيبراني.

المبحث الرابع: الجهات الرقابية

يُقترح إنشاء هيئة وطنية لحوكمة الذكاء الاصطناعي لها سلطة اعتماد جهات التدقيق ومراجعة التقارير وإصدار الشهادات وفرض الجزاءات.

خلاصة الفصل الثاني: البنية المؤسسية الفاعلة شرط أساسي لترجمة مبادئ المساءلة إلى ممارسة عملية.

الفصل الثالث: أدوات التدقيق المقترحة

المبحث الأول: بطاقة الامتثال الخوارزمية

تُستوحى من مفهوم "بطاقة النموذج" (Model Card) من Google (2019)، لكنها توسع الإطار ليشمل الأبعاد القانونية والأخلاقية[^65][^66].

تتألف بطاقة الامتثال من سبعة أقسام رئيسية:

  • تعريف النظام والغرض منه: الاسم، الجهة، الوصف، الجمهور، السياق.
  • البيانات المستخدمة: المصادر، الأنواع، الفترة، الحجم، المعالجات، الموافقات.
  • مستوى المخاطر: منخفض، متوسط، مرتفع، غير مقبول.
  • نتائج تقييم الأثر: نطاق التقييم، المخاطر، الإجراءات التخفيفية، المخاطر المتبقية.
  • نتائج آخر تدقيق: التاريخ، الجهة، النطاق، النتائج، حالة التوصيات.
  • مؤشرات الأداء: معدلات الخطأ، مقاييس العدالة، مقاييس الاستقرار.
  • المسؤولية القانونية وآليات التظلم: الجهة المسؤولة، الاتصال، آلية التظلم، الجهات الرقابية.

المبحث الثاني: مصفوفة التدقيق الخوارزمي

أداة منهجية تربط المعايير بالمؤشرات ووسائل القياس، وتعمل كخريطة طريق للمدقق.

نموذج مبسط: المصفوفة هي أداة توحيد تضمن أن تدقيقين مختلفين لنفس النظام يتبعان المعايير الأساسية نفسها.

المبحث الثالث: نموذج تقرير التدقيق الموحّد

يتبع التقرير بنية موحدة: بيانات تعريفية، وصف النظام، نتائج الاختبارات، المخاطر المتبقية، التوصيات، خطة المعالجة، والخاتمة.

يُنتج التقرير بصيغتين: تفصيلية للجهة الخاضعة للتدقيق، وموجزة تنشر للعموم.

خلاصة الفصل الثالث: الأدوات الثلاث (البطاقة، المصفوفة، التقرير) تشكل منظومة متكاملة تغطي دورة التدقيق من التخطيط إلى الإفصاح.

الفصل الرابع: الدراسة التطبيقية – اختبار الإطار على نظام توظيف آلي

توضيح منهجي حول طبيعة الدراسة

التطبيق العملي هو سيناريو محاكاة مستوحى من حالات حقيقية موثقة في الأدبيات الأكاديمية[^67].

الأجزاء المستمدة من حالات حقيقية:

  • مشكلة التحيز الجندري في بيانات التدريب (Raghavan et al. 2020, Hoffman et al. 2018).
  • تقنيات إعادة موازنة البيانات (Oversampling و SMOTE).
  • ظاهرة انحراف النموذج الناتجة عن تغيير نظام التقييم.

الأجزاء الافتراضية: الأرقام والنسب المئوية، التسلسل الزمني، والتفاصيل المؤسسية.

وصف النظام وحالة الاستخدام

نظام التوظيف الآلي (Auto-Hire v2.3): يستخدمه شركة اتصالات كبرى في الشرق الأوسط لفحص السير الذاتية وترتيب المرشحين[^68].

الخطوة الأولى: تقييم الأثر

تم تحديد ثلاثة مخاطر رئيسة: تحيز جندري في الوظائف التقنية (مرتفع)، تمييز بالوكالة على أساس العمر (متوسط-مرتفع)، وخصوصية البيانات (متوسط). صُنف النظام على أنه "مرتفع المخاطر".

الخطوة الثانية: التدقيق القبلي

أظهر التحليل الإحصائي: نسبة الإناث في بيانات التدريب 24%، ونسبة الإناث بين الناجحين 19%، مع منح الإناث نقاطاً أقل بنسبة 7.8%. أظهر التحيز العمري فرقاً في متوسط الأعمار (29.3 مقابل 34.1 سنة).

قدم المدققون توصيات: إعادة موازنة البيانات، إزالة متغير سنة التخرج، إخفاء الخصائص المحمية، ومراجعة آلية الترجيح.

بعد التصحيح: انخفض فرق معدل الاختيار من 7.8% إلى 3.2%، واستقرت الدقة التنبؤية عند 82-84%.

الخطوة الثالثة: إصدار بطاقة الامتثال

أصدرت الشركة بطاقة امتثال تضمنت تعريف النظام، مستوى المخاطر، مؤشرات العدالة، والجهة المسؤولة وآلية التظلم.

الخطوة الرابعة: التدقيق أثناء التشغيل

بعد 12 شهراً، أظهرت المراقبة انحرافاً: انخفضت دقة النموذج من 84% إلى 79%، وبدأ رفض خريجي جامعة معينة بنسبة متزايدة. تبين أن الجامعة قد غيّرت نظام التقييم، مما تسبب في تحيز. تم إعادة تطبيع الدرجات وإعادة التدريب، وعادت نسب القبول إلى مستوياتها الطبيعية.

الخطوة الخامسة: التدقيق اللاحق الشامل

بعد 18 شهراً، أظهر التدقيق استقرار العدالة (فرق 2.8%)، وتحسنت الدقة إلى 85.5%. تم استقبال 23 تظلماً والرد عليها خلال 12 يوم عمل، واكتشاف 4 انحرافات وتصحيحها في أقل من 15 يوماً.

رؤية جوهرية: الدراسة التطبيقية أثبتت أن الإطار المقترح يحول الامتثال من حالة جامدة إلى عملية حية تتعلم وتتكيف.
خلاصة الفصل الرابع: الإطار المقترح قادر على رصد المشكلات وتصحيحها دينامياً، والامتثال الفاعل لا يتعارض مع الكفاءة التشغيلية.

الخاتمة العامة

أولاً: خلاصة النتائج

انتهت هذه الدراسة إلى تأسيس نموذج نظري وتشغيلي متكامل للتدقيق الخوارزمي، يستند إلى تسلسل منطقي متصاعد: المساءلة الخوارزمية ← الحوكمة ← إدارة المخاطر ← تقييم الأثر ← التدقيق ← الامتثال ← الرقابة المستمرة.

أبرز ما خلصت إليه الدراسة هو التحول المفهومي من سؤال "من المسؤول؟" إلى سؤال "كيف نضمن بقاء النظام قابلاً للمساءلة؟"[^71].

الخلاصة المركزية: التعقيد التقني والتنظيمي لأنظمة الذكاء الاصطناعي يتطلب أدوات مساءلة من جيل جديد، تزود القاضي والفرد والمجتمع بما يحتاجونه لتفعيل آليات المساءلة.

ثانياً: حدود البحث والنموذج المقترح

حدود البحث المنهجية:

  • اعتماد الدراسة على سيناريو محاكاة، مما يعني أن النتائج قد تختلف في سياقات عملية أكثر تعقيداً.
  • تركيز النموذج على الأنظمة عالية المخاطر، مما قد يستلزم تعديلات للأنظمة الأقل خطراً.
  • اعتماد النموذج على بنية تحتية مؤسسية وقانونية قد لا تكون متاحة في جميع السياقات الوطنية.

حدود النموذج المقترح:

  • قابلية التطبيق في القطاعات المختلفة: النموذج صُمم بشكل عام، وقد يواجه تحديات في القطاعات شديدة التخصص.
  • الاعتماد على توفر البيانات: تفترض أدوات التدقيق توفر بيانات كافية.
  • التحديات الثقافية والتنظيمية: يفترض النموذج وجود إرادة مؤسسية للامتثال.
  • التكيف مع التطور التقني السريع: قد تصبح بعض المؤشرات قديمة مع ظهور تقنيات جديدة.

ثالثاً: معايير تقييم صلاحية النموذج

تقترح الدراسة خمسة معايير لتقييم النموذج: الاكتمال المعياري، قابلية التطبيق العملي، قابلية التوسع، المردود الاقتصادي، والقبول المؤسسي.

رابعاً: توصيات للباحثين المستقبليين

  1. الاختبار الإمبريقي للنموذج: تطبيق النموذج على بيانات حقيقية من مؤسسات مختلفة.
  2. تطوير مؤشرات عدالة خاصة بالسياق العربي: مراعاة الخصوصيات الثقافية والقانونية للمنطقة.
  3. دراسة قابلية تطبيق النموذج في القطاعات المختلفة: اختبار النموذج في الصحة، التعليم، الأمن، والمالية.
  4. تحليل التكلفة والعائد للتدقيق الخوارزمي: دراسة الجدوى الاقتصادية خاصة للمؤسسات الصغيرة والمتوسطة.

خامساً: توصيات السياسات

  • على صعيد السياسات: اعتماد نهج متدرج في تطبيق متطلبات التدقيق، والاستفادة من المبادرات الوطنية القائمة.
  • على صعيد الممارسة: تشجيع المؤسسات على تبني أدوات التدقيق طوعياً قبل أن تصبح إلزامية.
  • على صعيد التعاون الدولي: تطوير معايير دولية مشتركة والمشاركة الفاعلة في المنظمات الدولية.
التحول المعرفي: إن بناء إطار للتدقيق الخوارزمي ليس ترفاً أكاديمياً، بل هو جزء من مشروع أوسع لإعادة تعريف العلاقة بين القانون والتقنية في عصر الذكاء الاصطناعي: علاقة لا تخضع فيها القيم القانونية للمنطق التقني، بل تُصمم فيها آليات مساءلة تجعل من التقنية أداة لتعزيز سيادة القانون.

قائمة المراجع

  1. Hildebrandt, M. (2015). Smart Technologies and the End(s) of Law. Edward Elgar Publishing.
  2. Selbst, A. D., & Barocas, S. (2018). The Intuitive Appeal of Explainable Machines. Fordham Law Review, 87, 1085-1139.
  3. Jobin, A., Ienca, M., & Vayena, E. (2019). The Global Landscape of AI Ethics Guidelines. Nature Machine Intelligence, 1(9), 389-399.
  4. Yin, R. K. (2018). Case Study Research and Applications: Design and Methods (6th ed.). Sage Publications.
  5. Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
  6. Hildebrandt, M. (2011). Legal Protection by Design: Objections and Refutations. Legisprudence, 5(2), 203-226.
  7. Lessig, L. (1999). Code and Other Laws of Cyberspace. Basic Books.
  8. Eubanks, V. (2018). Automating Inequality. St. Martin's Press.
  9. Solaiman, S. M. (2017). Legal Personality of Robots, Corporations, Idols and Chimpanzees. Journal of Law, Technology & Policy, 2017(1), 55-87.
  10. Pasquale, F. (2015). The Black Box Society. Harvard University Press.
  11. Yeung, K. (2018). Algorithmic Regulation: A Critical Interrogation. Regulation & Governance, 12(4), 505-523.
  12. Burrell, J. (2016). How the Machine 'Thinks': Understanding Opacity in Machine Learning Algorithms. Big Data & Society, 3(1), 1-12.
  13. Citron, D. K. (2008). Technological Due Process. Washington University Law Review, 85(6), 1249-1313.
  14. Hart, H. L. A. (1968). Punishment and Responsibility. Oxford University Press.
  15. Wagner, B. (2018). Liable, but Not in Control? Ensuring Meaningful Human Agency in Automated Decision-Making Systems. Policy & Internet, 11(1), 90-111.
  16. Kroll, J. A., Huey, J., Barocas, S., Felten, E. W., Reidenberg, J. R., Robinson, D. G., & Yu, H. (2017). Accountable Algorithms. University of Pennsylvania Law Review, 165(3), 633-705.
  17. Bovens, M. (2007). Analysing and Assessing Accountability: A Conceptual Framework. European Law Journal, 13(4), 447-468.
  18. Balkin, J. M. (2018). The Laws of Artificial Intelligence. Boston University Law Review, 98, 179-194.
  19. Daly, A. (2020). The Illegality of Algorithmic Disparate Impact. European Data Protection Law Review, 6(3), 364-376.
  20. Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., ... & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society. Minds and Machines, 28(4), 689-707.
  21. Raji, I. D., & Buolamwini, J. (2019). Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 309-315.
  22. Sandvig, C., Hamilton, K., Karahalios, K., & Langbort, C. (2014). Auditing Algorithms: Research Methods for Detecting Discrimination on Internet Platforms. Data and Discrimination: Converting Critical Concerns into Productive Inquiry, 64, 4349-4357.
  23. OECD. (2023). OECD Framework for the Classification of AI Systems. OECD Publishing.
  24. Carpenter, D. (2010). Reputation and Power. Princeton University Press.
  25. IEEE. (2021). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems (2nd ed.). IEEE Standards Association.
  26. European Commission. (2021). Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (AI Act). COM(2021) 206 final.
  27. European Parliament. (2024). Regulation (EU) 2024/1689 Laying Down Harmonised Rules on Artificial Intelligence.
  28. Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81, 1-15.
  29. Jobin, A., Ienca, M., & Vayena, E. (2019). The Global Landscape of AI Ethics Guidelines. Nature Machine Intelligence, 1(9), 389-399.
  30. Kaplan, R. S., & Mikes, A. (2012). Managing Risks: A New Framework. Harvard Business Review, 90(6), 48-60.
  31. Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation. Human Factors, 52(3), 381-410.
  32. European Commission. (2020). White Paper on Artificial Intelligence - A European Approach to Excellence and Trust. COM(2020) 65 final.
  33. Bovens, M. (2010). Two Concepts of Accountability: Accountability as a Virtue and as a Mechanism. West European Politics, 33(5), 946-967.
  34. Kroll, J. A. (2020). The Fallacy of Inscrutability. Philosophical Transactions of the Royal Society A, 376(2133), 20180082.
  35. Veale, M., & Borgesius, F. Z. (2021). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International, 22(4), 97-112.
  36. European Parliament and Council. (2016). Regulation (EU) 2016/679 (General Data Protection Regulation).
  37. Smuha, N. A. (2021). The EU Approach to Ethics Guidelines for Trustworthy AI. German Law Journal, 22(4), 633-660.
  38. Reisman, D., Schultz, J., Crawford, K., & Whittaker, M. (2018). Algorithmic Impact Assessments: A Practical Framework for Public Agency Accountability. AI Now Institute.
  39. The White House. (2022). Blueprint for an AI Bill of Rights. Office of Science and Technology Policy.
  40. Government of Canada. (2022). Directive on Automated Decision-Making. Treasury Board of Canada Secretariat.
  41. ICO. (2020). Guidance on the AI Auditing Framework. Information Commissioner's Office.
  42. Clarke, R. (2019). Principles and Business Processes for Responsible AI. Computer Law & Security Review, 35(4), 410-422.
  43. ISO/IEC. (2023). ISO/IEC 42001:2023 - Artificial Intelligence Management System. International Organization for Standardization.
  44. European Union Agency for Fundamental Rights. (2022). Bias in Algorithms: A Guide for Policymakers. FRA.
  45. Solove, D. J. (2006). A Taxonomy of Privacy. University of Pennsylvania Law Review, 154(3), 477-564.
  46. Barocas, S., & Selbst, A. D. (2016). Big Data's Disparate Impact. California Law Review, 104(3), 671-732.
  47. Sunstein, C. R. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton University Press.
  48. Ferguson, A. G. (2017). The Rise of Big Data Policing. New York University Press.
  49. O'Neil, C. (2016). Weapons of Math Destruction. Crown Books.
  50. Noble, S. U. (2018). Algorithms of Oppression. New York University Press.
  51. European Commission. (2024). Risk Classification Framework for AI Systems. JRC Technical Report.
  52. Mantelero, A. (2022). The Impact Assessment of AI Systems. Edward Elgar.
  53. Kaminski, M. E., & Malgieri, G. (2021). Algorithmic Impact Assessments in Practice. Harvard Journal of Law & Technology, 35(1), 333-398.
  54. Raji, I. D., Gebru, T., Mitchell, M., Buolamwini, J., Lee, J., & Denton, E. (2020). Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency, 33-44.
  55. Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., ... & Gebru, T. (2019). Model Cards for Model Reporting. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency, 220-229.
  56. Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Hal Daumé, I., & Crawford, K. (2021). Datasheets for Datasets. Communications of the ACM, 64(12), 86-92.
  57. OECD. (2022). Measuring the Impact of AI Systems: Metrics and Indicators. OECD Digital Economy Papers.
  58. Lundberg, S. M., & Lee, S. I. (2017). A Unified Approach to Interpreting Model Predictions. Advances in Neural Information Processing Systems, 30, 4765-4774.
  59. Chouldechova, A. (2017). Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments. Big Data, 5(2), 153-163.
  60. Dwork, C., & Roth, A. (2014). The Algorithmic Foundations of Differential Privacy. Foundations and Trends in Theoretical Computer Science, 9(3-4), 211-407.
  61. Goodfellow, I. J., Shlens, J., & Szegedy, C. (2015). Explaining and Harnessing Adversarial Examples. International Conference on Learning Representations.
  62. Binns, R. (2022). What Can We Do to Address Algorithmic Injustice? Philosophy & Technology, 35(2), 1-18.
  63. Raghavan, M., Barocas, S., Kleinberg, J., & Levy, K. (2020). Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency, 469-481.
  64. Hoffman, M., Kahn, L. B., & Li, D. (2018). Discretion in Hiring. Quarterly Journal of Economics, 133(2), 765-800.
  65. Holstein, K., Wortman Vaughan, J., Daumé, H., Dudik, M., & Wallach, H. (2019). Improving Fairness in Machine Learning Systems: What Do Industry Practitioners Need? Proceedings of the ACM Conference on Human Factors in Computing Systems, 1-16.
  66. دولة الإمارات العربية المتحدة. (2017). استراتيجية الإمارات للذكاء الاصطناعي 2031. متاح على: https://ai.gov.ae/strategy/
  67. الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا). (2019). استراتيجية البيانات والذكاء الاصطناعي. متاح على: https://sdaia.gov.sa/
  68. المركز العربي للبحوث القانونية. (2022). حوكمة الذكاء الاصطناعي في الدول العربية: التحديات والفرص. ورقة بحثية، المؤتمر السنوي للقانون الرقمي، القاهرة.
  69. بن غربية، ن. (2021). المسؤولية المدنية عن أضرار الذكاء الاصطناعي في القانون المقارن. مجلة الدراسات القانونية المقارنة، 12(3)، 45-78.
  70. شرف، م. (2020). التنظيم القانوني للذكاء الاصطناعي في المنطقة العربية. المجلة العربية للقانون، 44(2)، 112-145.
at