قبل الخوض في هذا الجزء، تأكدوا من قراءة مقال كيف يمكن لمنظمات القطاع غير الربحي أن تؤدي دورًا قياديًا في الذكاء الاصطناعي المسؤول، ومقدمة هذا الدليل العملي، والجزء الأول: الاستكشاف – تهيئة الأرضية، والجزء الثاني: الإنشاء – تحديد مبادئكم وتعريفها، والجزء الثالث: التطبيق العملي، والجزء الرابع: الإنشاء – تحديد مسؤولية حوكمة الذكاء الاصطناعي في منظمات القطاع غير الربحي.

في بعض المؤسسات، تبدأ سياسة الذكاء الاصطناعي بفحص بسيط يستطيع أي عضو في الفريق إتمامه خلال أقل من 60 ثانية. وفي مؤسسات أخرى، تتضمن السياسة مبدأً يحمل اسم «الآلة لا تقود»، وهي عبارة اقترحها أحد أعضاء الفريق مباشرة خلال ورشة عمل. ويواصل الأفراد الإشارة إليها، لا لأنهم أُمروا بذلك، بل لأنهم يجدون أنفسهم فيها.

قارنوا ذلك بالتجربة الأكثر شيوعًا: يُطلب من شخص ما «كتابة السياسة»، وبعد 3 أشهر تظل وثيقة مؤلفة من 20 صفحة محفوظة في محرك أقراص مشترك دون أن يفتحها أحد.

ما الفرق؟ كُتبت السياستان الأوليان بمشاركة الأفراد، بينما كُتبت الثالثة بالنيابة عنهم.

يستكشف هذا المقال، وهو الجزء الخامس من سلسلة «خارطة طريق الذكاء الاصطناعي المسؤول لمنظمات القطاع غير الربحي»، كيف يمكن لمنظمات القطاع غير الربحي إنشاء سياسات للذكاء الاصطناعي تستخدمها فرق العمل فعليًا؛ فلا تكون مجرد وثائق امتثال مهملة، بل سجلات حية لاتفاقيات مشتركة.

ما سياسة الذكاء الاصطناعي؟ وما الذي لا تُعدّه سياسة؟

سياسة الذكاء الاصطناعي ليست وثيقة قانونية تُفرض من أعلى، بل هي الصيغة المكتوبة للاتفاقيات التعاونية التي بنتها المنظمة خلال المراحل السابقة من خارطة الطريق.

ويتدرج هذا المسار بصورة طبيعية: ففي الجزء الثاني، تحولت التوترات إلى مبادئ، وهي القيم التي يستند إليها كل قرار يتعلق بالذكاء الاصطناعي. وفي الجزء الرابع، وجدت هذه المبادئ مكانًا لها في هيكل الحوكمة، أو «الشجرة»، الذي يضم الأشخاص المسؤولين عن إدارة الحوار المستمر. وتتمثل أولى المهام الأساسية لهيكل حوكمة الذكاء الاصطناعي في توثيق الاتفاقيات التي تنظّم الاستخدام اليومي للذكاء الاصطناعي. وببساطة، تتلخص السياسة في صياغة هذه الاتفاقيات بلغة يفهمها جميع أعضاء الفريق.

وماذا لو لم تكن المؤسسة قد مرّت بهذه المراحل السابقة؟ يظل بدء النقاش حول السياسة خيارًا مناسبًا. فمن الناحية العملية، يساعد هذا النقاش على إظهار المبادئ وقضايا الحوكمة التي تحتاج إلى معالجة، ولكن بترتيب مختلف.

وفي منهجية «الاستكشاف ← الإنشاء ← البناء» الواردة في الجزء الأول، يُعد وضع السياسات الخطوة الأخيرة من مرحلة الإنشاء؛ إذ تُدوّن الاتفاقيات قبل الانتقال إلى مرحلة البناء، التي تبدأ بتقييم المخاطر.

تمييز مهم:

• المبادئ: تعبّر عما نؤمن به

• الحوكمة: تحدد الجهة المسؤولة عن إدارة الحوار

• السياسات: تحدد ما اتفقنا على القيام به

وتكمن أهمية هذا الإطار في أنه يخفف العبء المرتبط بفكرة «كتابة السياسات». فالمطلوب ليس ابتكار قواعد جديدة، بل توثيق القرارات التي اتخذها الفريق معًا.

ملاحظة مهمة حول النطاق: تبدأ معظم المؤسسات سياساتها المتعلقة بالذكاء الاصطناعي بالتركيز على استخدام الذكاء الاصطناعي التوليدي، ووضع إرشادات عملية لأدوات مثل ChatGPT وخدمات الترجمة ومولدات الصور. وهذه نقطة انطلاق سليمة ومنطقية. ومع ازدياد نضج المؤسسة وبدئها في إجراء تقييمات للمخاطر، التي تناولها الجزء الرابع، تُدمج النتائج تلقائيًا في السياسة، فتتحول إلى وثيقة حوكمة أكثر شمولًا. ولا يُعد البدء بالاستخدامات العامة للذكاء الاصطناعي خطأً، بل هو اتباع للتسلسل الصحيح.

الفقرة الثانية: لماذا يُعد هذا الأمر مهمًا الآن؟

هناك سببان رئيسيان يجعلان هذه المهمة ملحة لمنظمات القطاع غير الربحي.

• 1. مشكلة الذكاء الاصطناعي الخفي في غياب اتفاقيات واضحة ومتاحة للجميع، يبدأ الأفراد باتخاذ قراراتهم بصورة منفردة، تمامًا كما في السيناريو الذي افتُتح به الجزء الثاني من هذه السلسلة. وأظهرت عمليات التشخيص التي أُجريت داخل المنظمات أن من أكثر الممارسات شيوعًا استخدام أدوات الذكاء الاصطناعي على مستوى الفريق دون أي نقاش رسمي مسبق. ولا يعود ذلك إلى تقصير الأفراد، بل إلى غياب الوضوح. فوجود سياسة واضحة يجعل هذا الاستخدام الخفي ظاهرًا، ليس بهدف العقاب، وإنما لبناء أرضية مشتركة يفهمها الجميع.
  
  وتصبح المخاطر أكثر وضوحًا في مواقف مثل: متطوع يُدخل بيانات المستفيدين إلى أداة مجانية للذكاء الاصطناعي دون أن يدرك أن تلك البيانات قد تُستخدم في تدريب النماذج، أو تقرير منحة يتضمن إحصاءات أنشأها الذكاء الاصطناعي دون التحقق منها، أو وثيقة قانونية تُرجمت باستخدام الذكاء الاصطناعي واحتوت على معلومات جوهرية غير دقيقة. وهذه ليست سيناريوهات افتراضية، بل مواقف تواجهها منظمات القطاع غير الربحي بالفعل.

• 2. مشكلة الثقة تحتفظ منظمات القطاع غير الربحي بمعلومات شديدة الحساسية، مثل قصص المستفيدين، وتفاصيل الحالات، وعلاقات الجهات المانحة، والثقة التي بنتها مع المجتمع على مدار سنوات. ولهذا، فإن وجود سياسة واضحة يفهمها جميع أعضاء الفريق ويتبنونها هو ما يحمي هذه الثقة. فهي ليست مجرد وثيقة محفوظة في ملف، بل مرجع عملي يعود إليه الجميع عند مواجهة أي موقف غير واضح أو أي حالة يكتنفها الالتباس.

من يضع السياسة؟ وكيف تُصاغ؟

تقود هيئة الحوكمة هذه العملية، لكن ينبغي أن تعكس السياسة خبرات الأشخاص الذين سيستخدمونها يوميًا. ففي المؤسسات الصغيرة، قد يشارك جميع أفراد المؤسسة في مناقشة السياسة، وهو ما يُعد ميزة حقيقية؛ إذ تسهم قلة المستويات التنظيمية في تسريع الوصول إلى توافق، وتعزيز الشعور بالمسؤولية المشتركة.

ومن الناحية العملية، ينجح نهجان رئيسيان:

1. تحويل المبادئ إلى سياسة يناسب هذا النهج المؤسسات التي سبق أن صاغت مبادئها في وثيقة عامة. إذ تتولى هيئة الحوكمة ترجمة تلك المبادئ إلى إرشادات عملية للاستخدام اليومي، ونظام لإشارات المرور، وقواعد عمل، وآليات للإبلاغ عن الحوادث. وبعد ذلك، يراجع الفريق بأكمله المسودة ويقترح تحسيناتها. وتُعد سياسة الذكاء الاصطناعي المسؤول الخاصة بـ ChangemakerXchange مثالًا منشورًا يوضح هذا النهج.

2. التشارك المُيسّر يناسب هذا النهج المؤسسات التي تبدأ من الصفر في إعداد سياستها. وعادةً ما تتضمن العملية جلسة تشخيص لرسم خريطة الاستخدام الحالي للذكاء الاصطناعي والبيئة التنظيمية، ثم ورشة عمل لتحديد المبادئ، تعبّر خلالها مجموعة صغيرة تمثل أدوارًا مختلفة عن تطلعاتها ومخاوفها وثوابتها، يليها عقد ورشة عمل لتطوير مسودة السياسة بصورة جماعية.

ورغم اختلاف النهجين، فإنهما يشتركان في عنصر تصميمي بالغ الأهمية، وهو استخدام اللغة التي يتحدث بها المشاركون أنفسهم داخل الوثيقة النهائية. فعندما تتحول عبارة قالها أحدهم إلى اسم لمبدأ أو قاعدة، تتوقف السياسة عن كونها «وثيقة إدارية»، وتصبح وثيقة يملكها الفريق بأكمله. فالأفراد يلتزمون بالاتفاقيات التي شاركوا في صياغتها.

وقد يتمكن عدد محدود من الأشخاص الملتزمين من إعداد مسودة أولية قوية، لكن لا ينبغي أن تتوقف العملية عند ذلك. فمشاركة المسودة مع نطاق أوسع من الأفراد للحصول على التغذية الراجعة، والاستفادة من الدورات التدريبية لطرح الأسئلة وسد الثغرات، يوسعان دائرة المشاركة عمدًا قبل اعتماد السياسة بصورتها النهائية. وكلما تنوعت وجهات النظر، أصبحت الوثيقة النهائية أكثر اكتمالًا وأقل عرضة للثغرات.

ويبقى النمط ثابتًا مهما كان حجم الفريق:

• تحديد ما يهم.

• التوصل إلى اتفاقيات جماعية.

• تدوين هذه الاتفاقيات بلغة يفهمها جميع أعضاء الفريق.

وتقود هيئة الحوكمة (الشجرة) هذه العملية، مع الحرص على أن تعكس الوثيقة آراء جميع أعضاء الفريق.

مكونات الوثيقة الأساسية

بدلًا من تقسيم السياسة إلى عشرات الأقسام، من الأفضل التفكير في محتواها من خلال ثلاثة أسئلة رئيسية سيطرحها كل عضو في الفريق.

1. هل يمكنني استخدام هذا؟ — إطار إشارات المرور

تعتمد المنظمات التي نجحت في تطبيق سياسات فعّالة للذكاء الاصطناعي على نظام إشارات المرور باستمرار، لأنه يستبدل حالة التردد الناتجة عن عدم اليقين بآلية بسيطة وسهلة التطبيق.

🔴 الضوء الأحمر (قف)

يمثل الحدود غير القابلة للتفاوض، والمنبثقة مباشرة من المبادئ.

على سبيل المثال:

• لا تُدخل البيانات السرية مطلقًا في نماذج الذكاء الاصطناعي العامة.

• لا يُسمح للذكاء الاصطناعي باتخاذ قرارات مصيرية تتعلق بالأشخاص دون مراجعة بشرية.

• لا تُعالج الشهادات الشخصية الحساسة، مثل شهادات طالبي اللجوء أو الناجين أو الأشخاص الذين يمرون بأزمات، باستخدام أدوات الذكاء الاصطناعي العامة.

وهذه هي الخطوط الحمراء التي لا يجوز تجاوزها تحت أي ظرف.

🟡 الضوء الأصفر (توقف واسأل)

هنا تبدأ الحوكمة بأداء دورها الفعلي. ويشمل ذلك، على سبيل المثال، القرارات المصيرية، أو استخدام أدوات جديدة لم تُختبر بعد، أو التعامل مع بيانات حساسة في أي استخدام يتعلق بالذكاء الاصطناعي. وفي هذه الحالات، ينبغي التشاور مع هيئة الحوكمة قبل المضي قدمًا. ولا يعني الضوء الأصفر «لا»، بل يعني «دعونا نتحقق معًا».

🟢 الضوء الأخضر (يمكنك المتابعة)

يشمل الاستخدامات المعتمدة التي تندرج ضمن الإرشادات المتفق عليها، بما يمنح المستخدمين الثقة لإنجاز المهام الروتينية دون الحاجة إلى طلب الإذن في كل مرة.

ومن أمثلة ذلك:

• استخدام أداة ذكاء اصطناعي معتمدة لإعداد مسودة أولية لنشرة إخبارية عامة.

• إنشاء قائمة بأسئلة النقاش الخاصة بورشة عمل مجتمعية اعتمادًا على معلومات عامة وغير حساسة.

وبطبيعة الحال، يعتمد ذلك على الاتفاقيات التي تعتمدها كل مؤسسة.

ملاحظة مهمة: لا يُطبق نظام إشارات المرور على الأداة وحدها، بل على الأداة + حالة الاستخدام + مستوى حساسية البيانات.

فقد تكون الأداة نفسها مصنفة ضمن الضوء الأخضر عند استخدامها لصياغة منشور عام، بينما تُصنف ضمن الضوء الأحمر إذا استُخدمت لتلخيص ملاحظات حالة سرية. ولهذا، فإن جميع هذه التفاصيل تختلف من مؤسسة إلى أخرى.

2. ما قواعد الاستخدام؟ — إرشادات الاستخدام اليومي

إلى جانب نظام إشارات المرور، يمكن أن تتضمن كل سياسة مجموعة من الاتفاقيات الأساسية التي تنطبق على جميع استخدامات الذكاء الاصطناعي، حتى في الحالات التي يُسمح فيها باستخدامه. وتمثل هذه الاتفاقيات نقطة انطلاق، بينما تضع كل مؤسسة القواعد التي تعكس مبادئها وطبيعة عملها.

• تحقق من كل شيء. قد يكون المحتوى الذي ينشئه الذكاء الاصطناعي غير دقيق أو مختلقًا بالكامل. تعامل معه بوصفه مسودة أولية، لا مصدرًا نهائيًا للمعلومات.

• احمِ البيانات. تعامل مع المعلومات التي تُدخلها في أدوات الذكاء الاصطناعي الخارجية كما لو أنها ستصبح متاحة للعامة، واحرص على إخفاء أي تفاصيل حساسة.

• حافظ على المصداقية. تأكد من أن المحتوى الذي يُسهم الذكاء الاصطناعي في إنتاجه يعكس أسلوب المؤسسة وصوتها. ويطلق فريق تجربة العملاء على ذلك اسم «الحماية من هراء الذكاء الاصطناعي».

• كن شفافًا. أفصح عن استخدام الذكاء الاصطناعي عندما يكون له تأثير جوهري في المحتوى، ولا سيما في الاتصالات الخارجية أو التقييمات.

• كن متوازنًا في استخدامه. ليس كل بريد إلكتروني يحتاج إلى مسودة ينشئها الذكاء الاصطناعي. فكّر أولًا فيما إذا كانت المهمة تستدعي استخدام الأداة.

3. ماذا لو حدث خطأ؟ — آلية التعلم

لا تكتمل أي سياسة دون وجود آلية واضحة للتعامل مع الأخطاء، تقوم على مبدأ «أبلغ عنها، ولا تُخفها». ويتطلب ذلك تحديد شخص أو قناة مخصصة للإبلاغ، مع توضيح المعلومات المطلوب مشاركتها، والالتزام بالتعلم بدلًا من العقاب. وسواء كانت آلية الإبلاغ تتم عبر محادثة، أو بريد إلكتروني مخصص، أو مسؤول معين، فإن الأهم هو وجودها، وأن يعرف جميع أعضاء الفريق كيفية استخدامها عند الحاجة.

العناصر الهيكلية

تتمحور السياسة حول الأسئلة الثلاثة السابقة، وتستند إلى عدد محدود من العناصر الهيكلية الأساسية، وهي:

• نطاق واضح يحدد الجهات أو الأشخاص الذين تنطبق عليهم السياسة.

• ربط السياسة بهيكل الحوكمة، بما يوضح الجهة المسؤولة عنها.

• قائمة محدثة بأدوات الذكاء الاصطناعي.

• التزام واضح بمراجعة السياسة، يحدد موعد التحديث وآليته.

وهناك عنصر أخير يسهل تجاهله، رغم أهميته، وهو التدريب. فالسياسة التي لا تُشرح لأفراد المؤسسة لن تجد طريقها إلى التطبيق. ولا يتطلب ذلك برامج تدريبية معقدة، بل قد تكفي جلسة جماعية مدتها 30 دقيقة لشرح نظام إشارات المرور، واستعراض سيناريوهات واقعية، والإجابة عن أسئلة الفريق. وعلى سبيل المثال، يمكن أن يتولى أحد أعضاء الفريق الميداني، ممن يمتلك فهمًا عميقًا لطبيعة العمل اليومي، تدريب زملائه. كما ينبغي أن يتناسب أسلوب التدريب مع ثقافة المؤسسة، سواء كان في اجتماع للفريق، أو مقطع فيديو قصير، أو بطاقة مرجعية من صفحة واحدة، أو جلسات إرشادية تستند إلى سيناريوهات واقعية. والهدف هو أن يكون جميع أعضاء الفريق على دراية بالحدود التي تنظم استخدام الذكاء الاصطناعي، وأن يفهموا نظام إشارات المرور، وأن يعرفوا الجهة التي يمكنهم الرجوع إليها عند الحاجة إلى الاستفسار.

سياسة قابلة للتطوير: من الإصدار الأول إلى نظام حيوي

أهم ما يميز الإصدار الأول من السياسة هو وجوده.

فالمؤسسات التي تتعامل مع سياسة الذكاء الاصطناعي بوصفها وثيقة حية تحرص على تضمين آليات واضحة لتطويرها، مثل إجراء مراجعات دورية كل ستة أشهر، وتحديثها عند اعتماد أداة جديدة أو وقوع حادثة مهمة، والاستفادة من حلقات التغذية الراجعة التي توفرها الاستشارات والتدريبات للكشف المستمر عن الجوانب التي تحتاج إلى مزيد من التوضيح.

ويأتي هذا التطور بصورة طبيعية؛ إذ يركز الإصدار الأول على استخدامات الذكاء الاصطناعي التوليدي، ثم تبدأ نتائج تقييمات المخاطر، التي تناولها الجزء الرابع، في إثراء السياسة تدريجيًا. ومع مرور الوقت، تُراجع سيناريوهات إشارات المرور في ضوء تقييمات الأثر، وتُضاف استراتيجيات التخفيف، وتُستحدث ضوابط جديدة. وبذلك تتطور السياسة مع تعمق فهم الفريق، لا لمجرد الرغبة في زيادة حجم الوثيقة.

دعوة للبدء

لقد حُددت المبادئ، وسُمّي هيكل الحوكمة. وما السياسة إلا وسيلة لتوثيق ما اتفق عليه الفريق مسبقًا ومنحه الوضوح اللازم للتصرف بثقة.

ابدؤوا بتحديد الخطوط الحمراء، ثم ابنوا عليها نظام إشارات المرور. ولا يشترط أن تكون النسخة الأولى شاملة، بل يكفي أن تكون صادقة، وتعاونية، وعملية. أما بقية التفاصيل، فستتطور مع مرور الوقت.

ويوفر المورد المصاحب «دليل عملي لإنشاء سياسة الذكاء الاصطناعي الخاصة بكم» نموذجًا متكاملًا يتضمن أسئلة إرشادية لكل قسم، ونصوصًا نموذجية قابلة للتعديل، وآلية لتنفيذ العمل بصورة جماعية.

في الجزء التالي من هذه السلسلة، ستشكل سيناريوهات «الضوء الأصفر» الواردة في السياسة نقطة الانطلاق لتقييم المخاطر. وسيتناول الجزء التالي كيفية دراسة هذه الحالات بمزيد من العمق، وتقييم الأضرار المحتملة، وبناء الضوابط التي تستند إليها الإصدارات المستقبلية من السياسة.

هذا المقال جزء من سلسلة «خارطة طريق الذكاء الاصطناعي المسؤول لمنظمات القطاع غير الربحي»، التي طُورت ضمن مشروع «الذكاء الاصطناعي من أجل التغيير الاجتماعي» التابع لبرنامج النشاط الرقمي في TechSoup، بدعم من Google.org. وجميع الموارد منشورة بموجب ترخيص Creative Commons Attribution 4.0 International.

ملاحظاتكم تهمنا

ما رأيكم في هذا المحتوى؟ خصصوا 30 ثانية لمشاركة ملاحظاتكم، وساعدونا على تطوير محتوى أكثر قيمة لمنظمات القطاع غير الربحي.

شاركنا رأيك

إخلاء المسؤولية

أُعد هذا المورد ضمن مشروع «الذكاء الاصطناعي من أجل التغيير الاجتماعي» التابع لبرنامج النشاط الرقمي في TechSoup، بدعم من Google.org.

استخدمت الكاتبة الذكاء الاصطناعي في إعداد هذا المحتوى، إلا أن المقال كُتب بالكامل، ثم راجعته ودققته الكاتبة وفريق TechSoup.

ونظرًا إلى التطور المتسارع لأدوات الذكاء الاصطناعي، فقد تصبح بعض المعلومات الواردة في هذا المحتوى بحاجة إلى تحديث. وإذا لاحظتم أي معلومات غير محدثة، فيُرجى إبلاغنا عبر البريد الإلكتروني: contact@hive-mind.community

نبذة عن الكاتبة

آيشغول غوزيل مهندسة متخصصة في حوكمة الذكاء الاصطناعي المسؤول، تساعد المؤسسات ذات الرسالة الواضحة على تحويل مخاوفها المتعلقة بالذكاء الاصطناعي إلى أنظمة جديرة بالثقة. ويجمع مسارها المهني بين القيادة التنفيذية في القطاع غير الربحي، بما في ذلك تأسيس Zumbara، أكبر شبكة لبنوك الوقت في العالم، والخبرة التقنية في الذكاء الاصطناعي بصفتها مدققة معتمدة للذكاء الاصطناعي، ومتخصصة سابقة في تصنيف البيانات. وتقدم خدمات استشارية للمؤسسات في مجال التحول الشامل لحوكمة الذكاء الاصطناعي، كما تُجري عمليات تدقيق فنية متخصصة، وتدرّس في معهد Elisava، وتُلقي محاضرات دولية حول المناهج التي تضع الإنسان في صميم التكنولوجيا.

وللمزيد من المعلومات، يمكن زيارة موقعها الإلكتروني أو الاشتراك في نشرتها الإخبارية «الذكاء الاصطناعي الذي تختاره» عبر هذا الرابط.