قبل متابعة هذا الجزء، احرصوا على قراءة المقال الذي يوضح كيف يمكن لمنظمات القطاع غير الربحي أن تؤدي دورًا رياديًا في مجال الذكاء الاصطناعي المسؤول، إلى جانب مقدمة هذا الدليل العملي، والأجزاء السابقة منه: الاستكشاف: تهيئة الأرضية، والإنشاء: تحديد مبادئك وصياغتها، والتطبيق العملي، والإنشاء: تحديد مسؤولية حوكمة الذكاء الاصطناعي لمنظمات القطاع غير الربحي، وكيف يمكن لمنظمات القطاع غير الربحي وضع سياسات ذكاء اصطناعي قابلة للتطبيق؟

مشهدان مختلفان… وسؤال واحد

يجلس مدير أحد البرامج في إحدى منظمات القطاع غير الربحي أمام حالة مصنفة في سياسة الذكاء الاصطناعي الجديدة على أنها «إشارة تحذير». يرغب الفريق في استخدام أداة ذكاء اصطناعي للمساعدة في فرز طلبات المستفيدين الأكثر عرضة للمخاطر. وتنص السياسة على ضرورة التريث وطرح الأسئلة، لكن يبقى السؤال: ما الذي ينبغي السؤال عنه؟ ومن الجهة التي ينبغي توجيه السؤال إليها؟

وفي المقابل، في مدينة مالقة الإسبانية، قصدت امرأة تُدعى لينا مركز الشرطة للإبلاغ عن تهديدات تلقتها من شريكها السابق. سُجلت قضيتها في نظام VioGén، وهو النظام الخوارزمي الإسباني المخصص لتقييم مخاطر العنف القائم على النوع الاجتماعي. وبعد الإجابة عن 35 سؤالًا، صنّف النظام مستوى الخطر الذي تواجهه بأنه «متوسط». تقدمت لينا بطلب للحصول على أمر تقييدي، لكن طلبها رُفض. وبعد ثلاثة أسابيع، لقيت حتفها في حريق اندلع في منزلها، ويُزعم أن شريكها السابق أشعله، بعدما ظل يحتفظ بمفتاح المنزل.

ورغم اختلاف المشهدين، فإنهما يطرحان السؤال نفسه: من يتولى التحقق من أثر هذا النظام الخوارزمي في حياة الناس؟

تمثل حالات «إشارة التحذير» الواردة في سياسة الذكاء الاصطناعي نقطة الانطلاق لعملية تقييم المخاطر. فالسياسة تحدد متى ينبغي التوقف وإعادة النظر، بينما يوضح تقييم المخاطر كيف يمكن التعمق في تحليل الحالة وفحصها. ولهذا تُعد هذه المهارة بالغة الأهمية لمنظمات القطاع غير الربحي؛ فالأدوات التحليلية التي تستخدمها لتقييم أنظمة الذكاء الاصطناعي داخل مؤسستها هي نفسها التي تمكّنها من مساءلة الجهات التي تطبق هذه الأنظمة على المجتمعات التي تخدمها.

يمثل هذا الجزء مرحلة البناء في خارطة الطريق، حيث تبدأ جميع العناصر التي أُعدّت في المراحل السابقة بالعمل معًا ضمن منظومة واحدة. وستتناول هذه المقالة هذين الجانبين بالتفصيل.

لماذا تختلف مخاطر الذكاء الاصطناعي؟ الواقع الاجتماعي التقني

لا يعمل الذكاء الاصطناعي بمعزل عن الواقع، بل يعمل داخل منظومات اجتماعية معقدة يتداخل فيها البشر والمؤسسات والأنظمة. ولهذا يُعد تقنيةً اجتماعية-تقنية، وهي حقيقة تُغيّر جذريًا الطريقة التي ينبغي أن نقيم بها المخاطر.

لنأخذ على سبيل المثال نظام SyRI في هولندا، وهو خوارزمية استُخدمت للكشف عن الاحتيال في برامج الرعاية الاجتماعية من خلال ربط البيانات الشخصية للمواطنين بقواعد البيانات الحكومية. وقد طُبق هذا النظام حصريًا في الأحياء منخفضة الدخل وأحياء المهاجرين. وفي فبراير 2020، قضت محكمة لاهاي بأن النظام ينتهك المادة الثامنة من الاتفاقية الأوروبية لحقوق الإنسان، بعدما رأت أن الضمانات المتاحة لم تكن كافية لمنع التمييز. ولم يأتِ هذا الحكم من فراغ؛ فقد رفعت ست منظمات حقوقية، إلى جانب أكبر نقابة عمالية في هولندا، دعوى قضائية مدعومة بتحليل المقرر الخاص للأمم المتحدة المعني بالفقر المدقع. وبفضل هذا التحقيق الذي قاده القطاع غير الربحي، أُوقف العمل بنظام ألحق أضرارًا بالفئات الأكثر هشاشة.

وفي الأردن، يستخدم برنامج التحويلات النقدية «تكافل»، الممول من البنك الدولي، خوارزمية تعتمد على 57 مؤشرًا اجتماعيًا واقتصاديًا لتقدير مستوى فقر الأسر وتحديد المستحقين للدعم. وكشف تحقيق أجرته منظمة هيومن رايتس ووتش أن الخوارزمية كرّست افتراضات غير دقيقة حول ماهية الفقر؛ فقد حُرمت بعض الأسر من الدعم لأنها تمتلك سيارة تستخدمها لنقل المياه، أو بسبب ارتفاع استهلاك الكهرباء الناتج عن سوء العزل في منازلها، رغم أنها لم تكن تملك القدرة على إصلاحه. وقالت إحدى النساء في إحدى أفقر قرى الأردن للمحققين: «لقد دمرتْنا السيارة.»

الخلاصة واضحة: لا يرتبط الضرر بالأداة نفسها، بل بطريقة استخدامها وسياق استخدامها. فقد تكون الأداة آمنة في حالة، لكنها تُصبح ضارة في حالة أخرى. لذلك، لا توجد حلول تصلح لجميع السياقات، وإنما توجد أسئلة ينبغي طرحها وفق طبيعة كل حالة. وكلما تعمق فهم منظمات القطاع غير الربحي لآليات تقييم مخاطر الذكاء الاصطناعي، ازدادت قدرتها على حماية المجتمعات التي تخدمها.

ما هو تقييم المخاطر في الواقع، ومتى تحتاج إليه؟

يمتلئ مجال الذكاء الاصطناعي بالاختصارات؛ مثل FRIA وAIA وARIA. وقد تختلف المسميات، لكن جوهر العملية واحد. ببساطة، يُشبه تقييم المخاطر عمل المحقق؛ فهو يعتمد على طرح الأسئلة الصحيحة، وجمع الأدلة، وتوثيق النتائج، ثم اتخاذ القرارات المناسبة بناءً عليها.

ويقدم إطار CIDA (السياق، والمدخلات، والقرار، والإجراء) منهجية واضحة لإجراء هذا التقييم، من خلال الإجابة عن مجموعة من الأسئلة الأساسية:

• ما السياق الاجتماعي والسياسي الذي يعمل فيه نظام الذكاء الاصطناعي؟

• ما البيانات التي يعتمد عليها؟ وما أوجه التحيز التي قد تتضمنها؟

• كيف تُتخذ القرارات داخل النظام؟

• وما النتائج التي قد تترتب على هذه القرارات؟

توفر هذه الرؤية الشاملة أساسًا متينًا لتقييم المخاطر، سواء كان النظام مطورًا داخل مؤسستك أو تابعًا لجهة حكومية تتخذ قرارات تؤثر في الأشخاص الذين تخدمهم.

ولست بحاجة إلى البدء من الصفر عند محاولة استشراف الأضرار المحتملة. فهناك قواعد بيانات توثق حوادث الذكاء الاصطناعي التي وقعت بالفعل؛ مثل قاعدة بيانات حوادث الذكاء الاصطناعي، ومرصد حوادث الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية (OECD)، ومستودع مخاطر الذكاء الاصطناعي. وتمثل هذه المصادر سجلًا للحوادث السابقة يمكن الاستفادة منه قبل البدء في تقييمك الخاص.

وإذا بدا الأمر معقدًا، فتذكروا ما أقوله دائمًا في ورش العمل: لو شرحتُ أطر إدارة المخاطر لجدتي، لقالت: «تتحدث وكأنك اكتشفت شيئًا جديدًا، بينما هذه هي الطريقة التي يفكر بها البشر منذ القدم.» فقبل الإقدام على أي خطوة، نفكر فيمن قد يتأثر بها، ونستشير من حولنا، ونتخيل أسوأ الاحتمالات الممكنة. وما يفعله تقييم المخاطر ببساطة هو تحويل هذا التفكير الفطري إلى عملية واضحة ومنظمة.

متى تحتاج إلى تقييم المخاطر؟ يعتمد ذلك على طبيعة علاقتك بنظام الذكاء الاصطناعي. إذا كنت بصدد شراء أداة من مزود خارجي، وهو السيناريو الأكثر شيوعًا لدى منظمات القطاع غير الربحي، فإن تقييم المخاطر يُعد جزءًا أساسيًا من إجراءات العناية الواجبة. أما إذا كانت مؤسستك تستخدم بالفعل أدوات ذكاء اصطناعي دون أن تُجري لها أي تقييم، وهو واقع تعيشه كثير من منظمات القطاع غير الربحي، فمن الضروري إجراء تقييم لاحق في أقرب فرصة. وفي حال كانت أنظمة الذكاء الاصطناعي تُستخدم لاتخاذ قرارات تؤثر في المجتمعات التي تخدمونها، مثل تقييمات الرعاية الاجتماعية أو قرارات الهجرة الآلية، فإن فهم آليات تقييم المخاطر يصبح ضرورة لممارسة دوركم في الرقابة والمناصرة والمساءلة. ويمثل هذا الدور إحدى الميزات الفريدة التي يضطلع بها القطاع غير الربحي. وفي الاتحاد الأوروبي، يفرض قانون الذكاء الاصطناعي إجراء تقييم للمخاطر قبل استخدام الأنظمة المصنفة ضمن فئة الأنظمة عالية المخاطر.

نهجان يمكن لمنظمات القطاع غير الربحي استخدامهما

لا يتنافس هذان النهجان، بل يُكمل أحدهما الآخر، إذ يكشف كل منهما جانبًا مختلفًا من المخاطر.

النهج القائم على القيم

ينطلق هذا النهج من المبادئ التي تتبناها مؤسستك.

وقد طبقت Khan Academy هذا النهج عندما اعتمدت المبادئ التسعة الواردة في إطارها الأخلاقي للذكاء الاصطناعي في التعليم، ثم حوّلت هذه المبادئ إلى ضوابط داخلية تُوجّه فرق تطوير المنتجات. فعلى سبيل المثال، أدى المبدأ الأول، تحقيق الأهداف التعليمية، إلى اعتماد الضابط (1.4): وجود آليات تمنع استخدام الذكاء الاصطناعي في غير الأغراض التعليمية.

ومن خلال هذا الضابط، أصبح بالإمكان تحديد المخاطر المرتبطة به ووضع إجراءات واضحة للتخفيف منها. وتسير العملية وفق تسلسل مترابط: المبدأ ← الضابط ← المخاطر ← إجراءات التخفيف

شرح الجدول: الجدول 1. مثال على جدول البيانات الذي أنشأته أكاديمية خان واستخدمته. المصدر: إطار عمل أكاديمية خان للذكاء الاصطناعي المسؤول في التعليم، من أكاديمية خان، 3 أبريل 2025، مدونة أكاديمية خان. © 2025 أكاديمية خان. جميع الحقوق محفوظة. لا يشمل هذا المحتوى ترخيص CC BY 4.0 الدولي. يمكنك الاطلاع على النص الكامل للجدول في الملف المرفق هنا.

النهج المرتكز على أصحاب المصلحة

ينطلق هذا النهج من الأشخاص الذين سيتأثرون بالنظام، وليس من التقنية نفسها.

فعندما أدرتُ جلسة ضمت نحو 70 قائدًا يمثلون 30 منظمة غير حكومية تعمل في مجال التعليم، بالتعاون مع Tech To The Rescue، ناقشنا نظام الإنذار المبكر بالتسرب المدرسي في ولاية ويسكونسن، وهو نظام خوارزمي يستخدم بيانات، من بينها العِرق والسجلات التأديبية، للتنبؤ بالطلاب الأكثر عرضة للتسرب من المدرسة. تقاسم المشاركون أدوارًا مختلفة، منها مدير المدرسة، وولي الأمر، وعالم البيانات، والمشرف التربوي، والمعلم. وخلال ثلاثين دقيقة فقط، تمكنوا من وضع خارطة طريق متكاملة لتطوير النظام.

فعندما تساءلت إحدى المشاركات، التي أدت دور الأم، عن سبب استخدام عِرق طفلها للتنبؤ بإمكانية فشله، تغيّر مسار النقاش بالكامل. اقترح عالم البيانات حذف متغيرَي العِرق والرمز البريدي من بيانات الإدخال، بينما اقترح المعلم استبدال التصنيف الذي يحمل وصمة اجتماعية، مثل «عالي الخطورة»، بعبارات عملية مثل: «قد يستفيد من دعم إضافي في مادة الجبر.» أما مدير المدرسة، فأعاد صياغة الهدف بالكامل من «التنبؤ بالتسرب المدرسي» إلى «تحديد مسارات النجاح». لقد كان سؤال واحد كافيًا لإعادة تصميم النظام بأكمله. وهذا يوضح أن تنوع وجهات النظر لا يُحسن تقييم المخاطر فحسب، بل يُغيّر نتائجه جذريًا.

ورغم اختلاف النهجين، فإنهما يشتركان في معادلة واحدة: مستوى المخاطرة = الاحتمالية × حجم التأثير ولا تُستخدم هذه المعادلة لإجراء حسابات معقدة، وإنما لفتح حوار منظم وصريح يساعد على اتخاذ قرارات أكثر وعيًا.

تقييم المخاطر عمليًا

لنجعل الأمر أكثر واقعية من خلال مثال عملي. يفكر مسؤول أمن المعلومات في إحدى مؤسسات تقديم الخدمات في استخدام روبوت محادثة مدعوم بالذكاء الاصطناعي لفرز طلبات المساعدة القانونية. ولتقييم المخاطر، يمكن استخدام إطار CIDA على النحو الآتي:

• السياق: ما الهدف من استخدام هذا النظام؟ ومن اتخذ قرار اعتماده؟ وما البيئة التنظيمية التي سيعمل فيها؟

• المدخلات: ما البيانات التي يعتمد عليها روبوت المحادثة؟ وماذا سيحدث للأشخاص الذين لا يستطيعون استخدام الواجهات الرقمية أو يواجهون صعوبة في التعامل معها؟

• القرار: ما التوصيات التي سيقدمها روبوت المحادثة؟ وهل ستخضع قراراته لمراجعة بشرية؟ وماذا لو أخطأ في تقدير مدى إلحاح طلب أحد المستفيدين؟

• الإجراء: ما النتائج التي قد تترتب على هذه القرارات؟ وهل يمكن أن يؤدي ذلك إلى حرمان شخص من الحصول على المساعدة في الوقت المناسب؟

يساعد هذا النوع من الأسئلة على الكشف عن أضرار محددة، مثل ضياع الفرص، والمس بالكرامة، وانتهاك الخصوصية. وبعد تحديد هذه المخاطر، يعمل الفريق على تقييمها وترتيب أولوياتها، ثم يناقش إجراءات الحد منها.

وقد تشمل إجراءات التخفيف، على سبيل المثال:

• الإبقاء على الإشراف البشري عند نقاط اتخاذ القرارات الحساسة.

• توفير مسار بديل يدوي للأشخاص الذين لا يستطيع روبوت المحادثة خدمتهم بكفاءة.

• تطبيق بروتوكولات لإخفاء هوية البيانات وحمايتها.

ومع ذلك، ينبغي إدراك حقيقة مهمة: لا يمكن القضاء على جميع المخاطر. فحتى بعد تطبيق إجراءات التخفيف، ستظل هناك مخاطر متبقية، وهذا لا يعني فشل عملية التقييم، بل يُعد جزءًا طبيعيًا من إدارة المخاطر. وهنا يأتي دور ضوابط حوكمة الذكاء الاصطناعي، من خلال المراقبة المستمرة، ووضع مؤشرات واضحة تستدعي إعادة تقييم النظام عند الحاجة. وتُوثق جميع النتائج في سجل المخاطر، وهو سجل حي يُحدَّث باستمرار، ويُستخدم مرجعًا عمليًا لتطوير السياسات وتحسينها مستقبلًا.

عملية مستمرة

لا يُعد تقييم المخاطر وثيقة تُنجز مرة واحدة ثم تُحفظ، بل هو عملية مستمرة تربط جميع عناصر خارطة الطريق ببعضها. فالنتائج التي تتوصلون إليها تُسهم في تطوير سياسة الذكاء الاصطناعي، وتساعد على توضيح سيناريوهات الإنذار المبكر، وإضافة خطوط حمراء جديدة، وتعزيز مؤشرات النجاح. ومع ظهور مخاطر جديدة نتيجة استخدام أنظمة الذكاء الاصطناعي في الواقع، تُسجل هذه المخاطر وتُضاف إلى سجل المخاطر لتصبح جزءًا من عملية التعلم المستمرة.

وعندما تصبح هذه الممارسة جزءًا من ثقافة المؤسسة، تنتقلون من الاكتفاء برد الفعل إلى تبني نهج استباقي يقوم على ترسيخ الأخلاقيات في التصميم. ومع مرور الوقت، يتطور التفكير القائم على تقييم المخاطر إلى تفكير يركز على الأثر؛ فلا يقتصر استخدام الذكاء الاصطناعي على تجنب الضرر، بل يمتد إلى تحقيق قيمة إيجابية ومستدامة للمجتمعات التي تخدمها.

دعوة

حددت مبادئكم ما تؤمنون به، وحدد هيكل الحوكمة من يقود الحوار، وحددت سياسة الذكاء الاصطناعي ما اتفقتم عليه. أما تقييم المخاطر، فهو ما يحدد ما الذي ينبغي مراقبته، ويُكمل الدورة من خلال إعادة تغذية النظام بكل ما تتعلمونه أثناء التطبيق.

ابدؤوا باختيار إحدى إشارات التحذير، واجمعوا فريق الحوكمة، ثم اطرحوا الأسئلة.

وتذكروا أن هذه المهارة لا تقتصر على تحسين ممارسات مؤسساتكم الداخلية، بل تمتد إلى تمكينكم من مساءلة الأنظمة التي تؤثر في المجتمعات التي تخدمونها. ففي هولندا، نجح تحالف من منظمات غير حكومية في إيقاف خوارزمية تمييزية خاصة بالرعاية الاجتماعية عبر اللجوء إلى القضاء. وفي إسبانيا، أجرت منظمة Eticas، وهي إحدى منظمات القطاع غير الربحي، تدقيقًا مستقلًا لخوارزمية VioGén بعد أن رفضت وزارة الداخلية السماح بإجراء مراجعة مستقلة للنظام. وبالتعاون مع Ana Bella Foundation، واعتمادًا على البيانات المتاحة للجمهور ومقابلات مع الناجيات، توصل الباحثون إلى أن الشرطة كانت تعتمد تصنيف المخاطر الذي تنتجه الخوارزمية في 95% من الحالات، وهو ما يعني عمليًا إسناد قرارات مصيرية إلى معادلة رياضية. وكشفت الدراسة أيضًا أنه بين عامي 2003 و2021 قُتلت 71 امرأة سبق لهن الإبلاغ عن تعرضهن للعنف أثناء وجودهن ضمن النظام، وكانت جميع الحالات قد صُنفت سابقًا ضمن فئتَي «خطر منخفض» أو «خطر متوسط».

إن الأسئلة نفسها، والأطر نفسها، والإصرار على إشراك وجهات نظر متعددة، هي الأدوات التي يحتاجها القطاع غير الربحي لمساءلة المؤسسات التي تستخدم الذكاء الاصطناعي في اتخاذ قرارات تؤثر في حياة الناس. فالعمل الاستقصائي لا يقتصر على مراجعة الأنظمة داخل المؤسسة، بل يشمل أيضًا التدقيق في الأنظمة الخارجية التي تمس المجتمعات، وهذا ما يمنح منظمات القطاع غير الربحي دورًا فريدًا في بناء منظومة ذكاء اصطناعي أكثر مسؤولية.

يوفر الدليل المصاحب خطوات عملية ونماذج جاهزة تساعد الفرق على تنفيذ أول تقييم للمخاطر، سواء كان الهدف تقييم نظام ذكاء اصطناعي داخل المؤسسة أو فحص نظام يؤثر في المجتمع الذي تخدمه.

ملاحظاتكم تهمنا

ما رأيكم في هذا المقال؟ خصصوا 30 ثانية فقط لمشاركة ملاحظاتكم، وساعدونا على تطوير محتوى أكثر فائدة لمنظمات القطاع غير الربحي.

شاركوا ملاحظاتكم

إخلاء المسؤولية

أُعد هذا المورد ضمن مشروع الذكاء الاصطناعي من أجل التغيير الاجتماعي، أحد مشاريع برنامج النشاط الرقمي التابع لـ TechSoup، بدعم من Google.org.

استعان المؤلف بالذكاء الاصطناعي في إعداد هذا المحتوى، إلا أن المقال كُتب، ورُوجع، ودُقق بالكامل من قبل المؤلف وفريق TechSoup.

تتطور تقنيات الذكاء الاصطناعي بوتيرة متسارعة، ورغم حرصنا على تقديم معلومات دقيقة وحديثة، فقد تصبح بعض المعلومات الواردة في هذا المقال غير محدثة مع مرور الوقت. وإذا لاحظتم أي معلومة تحتاج إلى تحديث، فيُرجى إبلاغنا عبر البريد الإلكتروني: contact@hive-mind.community

نبذة عن الكاتبة

عائشة غول غوزيل مهندسة متخصصة في حوكمة الذكاء الاصطناعي المسؤول، تساعد المؤسسات ذات الرسالة الواضحة على تحويل مخاوفها بشأن الذكاء الاصطناعي إلى أنظمة موثوقة وقابلة للتطبيق. يجمع مسارها المهني بين القيادة التنفيذية في القطاع الاجتماعي، حيث أسست Zumbara، أكبر شبكة لبنوك الوقت في العالم، وبين خبرتها التقنية بصفتها مدققة معتمدة في مجال الذكاء الاصطناعي وعالمة بيانات سابقة. وتدعم عائشة المؤسسات في تصميم وتطبيق حوكمة شاملة للذكاء الاصطناعي، كما تُجري عمليات تدقيق تقنية للأنظمة، وتُدرّس في ELISAVA، وتُلقي محاضرات دولية حول تصميم التكنولوجيا المتمحورة حول الإنسان.

للتعرف على المزيد، زوروا موقعها الإلكتروني https://aysegulguzel.info، أو اشتركوا في نشرتها البريدية «الذكاء الاصطناعي الذي تختاره» عبر الرابط https://aysegulguzel.substack.com.