إذا كنتم تشعرون بمشاعر متضاربة ومتعددة، فأنتم لستم وحدكم. فإحدى أهم الحقائق التي تعلمتها من خلال مرافقة المؤسسات في رحلتها نحو الذكاء الاصطناعي المسؤول هي أن التوتر ليس مشكلة يجب التخلص منها، بل هو شكل من أشكال الحكمة، ونقطة الانطلاق لكل ما يأتي بعد ذلك.
التوتر حقيقي، وهو يحمل لكم رسالة
تشعر منظمات القطاع غير الربحي اليوم بقدر كبير من الضغط. فالجهات المانحة تسأل عن استراتيجيات الذكاء الاصطناعي، وأعضاء الفريق يستخدمون بالفعل أدوات لم تعتمدها المؤسسة رسميًا، والتقنيات تتطور بوتيرة أسرع من السياسات الداخلية. وفوق كل ذلك يبرز سؤال جوهري:
كيف يمكننا استخدام هذه الأدوات القوية دون أن نفقد جوهر هويتنا ورسالتنا؟
يظهر هذا التوتر في عدد من المعضلات الواقعية، منها:
الكفاءة مقابل الأصالة
يمكن للذكاء الاصطناعي أن يساعدنا على إنجاز المزيد من الأعمال، ولكن هل يخدم هذا "المزيد" رسالتنا بالفعل، أم أنه مجرد إضافة إلى قائمة المهام؟
الابتكار مقابل السلامة
نريد أن نكون من أوائل المستفيدين من الفرص الجديدة، لكن ليس على حساب المجتمعات التي نخدمها.
الوصول مقابل الخصوصية
يمكن للذكاء الاصطناعي أن يساعدنا على الوصول إلى عدد أكبر من الناس، ولكن ما حجم البيانات التي نتخلى عنها لتحقيق ذلك؟
ليست هذه الأسئلة من النوع الذي يملك إجابات بسيطة أو نهائية. فهي تقع على طيف واسع من الاحتمالات، وسيختلف موقع مؤسستكم على هذا الطيف عن موقع أي مؤسسة أخرى. وهذا ليس ضعفًا، بل هو جزء طبيعي من العمل القائم على القيم والمبادئ.
الشكل 1. طيف معضلات الذكاء الاصطناعي رسم توضيحي يعرض أمثلة على مختلف المعضلات التي تواجهها منظمات القطاع غير الربحي عند استخدام الذكاء الاصطناعي، مثل: المقاييس الضيقة مقابل النتائج العادلة، والفن الإنساني مقابل إبداعات الذكاء الاصطناعي (الثقافة، والمعنى، والجدوى الاقتصادية)، والسيادة مقابل الحوكمة العالمية (الجيوسياسة). من إعداد: أيسغول غوزيل تورغوت ، الترخيص: CC BY 4.0 Int.
طيف معضلات الذكاء الاصطناعي
مقاييس ضيقة مقابل نتائج عادلة.
ربح قصير الأجل مقابل استدامة طويلة الأجل.
قيمة المساهمين مقابل قيمة أصحاب المصلحة.
السرعة مقابل الشمولية.
الشفافية مقابل حماية الملكية الفكرية.
المساءلة مقابل الاستقلالية (مثل المسؤولية القانونية والأخلاقية).
التحسين مقابل الاعتماد المعرفي.
قابلية التوسع مقابل مراعاة السياق الدقيق.
الأمن مقابل الخصوصية (مثل الكاميرات المدعومة بالذكاء الاصطناعي).
السيادة مقابل الحوكمة العالمية (الجيوسياسة).
الفن الإنساني مقابل إبداع الذكاء الاصطناعي (الثقافة والمعنى والجدوى الاقتصادية).
التقدم مقابل الكوكب (الأثر البيئي).
هل تشعرون بعدم الارتياح عند قراءة بعض هذه المعضلات؟
إذا كان الأمر كذلك، فهذه إشارة مهمة. فهي تساعدكم على اكتشاف ما يهمكم حقًا وما ترون أنه يستحق الحماية.
لماذا ينبغي لمنظمات القطاع غير الربحي أن تقود لا أن تتبع؟
هنا يقع أحد أكثر الأخطاء شيوعًا في قطاع التكنولوجيا.
فبمجرد أن تنتقل الخوارزمية من المختبر إلى العالم الحقيقي، لتشارك في فرز طلبات التوظيف، أو اقتراح المحتوى، أو تخصيص الموارد، فإنها تتوقف عن كونها مجرد نظام تقني. بل تصبح جزءًا من شبكة معقدة من العلاقات الإنسانية، والسلطة المؤسسية، والثقة المجتمعية.
وهذه ليست مشكلات هندسية بحتة، بل هي القضايا نفسها التي تعمل منظمات القطاع غير الربحي على التعامل معها منذ عقود.
فأنتم تعرفون كيف تتعاملون مع التعقيد، وكيف تستمعون إلى الأصوات المهمشة، وكيف تتخذون قرارات قائمة على القيم في ظروف يسودها عدم اليقين، وبموارد محدودة، وفي سياقات تكون فيها المخاطر إنسانية وحقيقية.
ولهذا تحديدًا يحتاج نقاش حوكمة الذكاء الاصطناعي إلى الخبرات التي يمتلكها القطاع غير الربحي.
ومع ذلك، لا تزال كثير من منظمات القطاع غير الربحي تراقب هذا النقاش من الهامش، باعتباره شأنًا يخص شركات التقنية، أو الخبراء التقنيين، أو الجهات التنظيمية.
لكن الانتظار يحمل مخاطره.
فإذا لم تشاركوا في صياغة القواعد، فسيقوم آخرون بذلك نيابة عنكم، وقد لا تعكس هذه القواعد قيمكم أو احتياجات المجتمعات التي تعملون لخدمتها.
وفي المقابل، توجد فرصة حقيقية ومهمة:
يمكن للقطاع غير الربحي أن يسهم في تشكيل الطريقة التي يُطوَّر بها الذكاء الاصطناعي، ويُنشر، ويُدار، بدلًا من الاكتفاء بالتكيف مع قرارات تُتخذ في أماكن أخرى.
ولا يتعلق الأمر بأن تصبحوا خبراء في الذكاء الاصطناعي، بل بأن تمارسوا دوركم الطبيعي بصفتكم خبراء في القيم وصناعة القرار المسؤول.
التوترات كمداخل للمبادئ
كيف يمكن الانتقال من التوتر إلى الوضوح؟
الإجابة لا تكمن في التخلص من التوتر، بل في تسميته وفهمه. فالتوترات تكشف عن القيم التي نؤمن بها، وعندما نُعبّر عن هذه القيم بوضوح، فإنها تتحول إلى مبادئ توجه قراراتنا.
لنأخذ على سبيل المثال مؤسسة أكاديمية خان التعليمية غير الربحية.
عندما أطلقت المؤسسة خانميغو (Khanmigo)، وهي أداة تعليمية مدعومة بالذكاء الاصطناعي، لم تبدأ بالحديث عن المواصفات التقنية أو الإمكانات البرمجية، بل بدأت بالمبادئ الأساسية التي أرادت حمايتها، مثل:
تحقيق الأهداف التعليمية.
استقلالية المتعلم.
الشفافية والمساءلة.
وقد انطلقت هذه المبادئ من فهم واضح للمخاطر المحتملة، وللجوانب التي أرادت المؤسسة الحفاظ عليها أثناء استخدام الذكاء الاصطناعي.
فعلى سبيل المثال، وضمن مبدأ تحقيق الأهداف التعليمية، وضعت المؤسسة ضوابط محددة تنص على وجود آليات تمنع استخدام الذكاء الاصطناعي لأغراض غير تعليمية.
وعندما قيّمت مخاطر الاستخدام غير المناسب، صنفتها على أنها عالية الخطورة، ثم صممت استراتيجيات للتخفيف من هذه المخاطر، شملت أنظمة الإشراف، وإشعارات أولياء الأمور، وشروط الخدمة الواضحة.
كانت المبادئ هي نقطة البداية، ثم جاءت بعدها الإجراءات العملية ووسائل الحماية.
وبالمثل، يمكن النظر إلى تجربة ChangemakerXchange (CXC)، وهي شبكة دولية تدعم رواد الأعمال الاجتماعيين.
فقد بدأت رحلتها مع الذكاء الاصطناعي من خلال حوارات صريحة ومفتوحة حول التحديات والمخاوف.
وكما ورد في بيانهم الخاص بالذكاء الاصطناعي الواعي:
"نحن نتعامل مع الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي التوليدي، بعين ناقدة، مدركين للمخاطر المرتبطة به، بما في ذلك أثره البيئي الكبير، وميله إلى تضخيم التحيزات، وقدرته على تسطيح الإبداع الإنساني الفريد الذي يعتمد عليه عملنا."
وانطلاقًا من هذا التقييم الصريح، وضعوا مجموعة من المبادئ، من بينها مبدأ الاستخدام الواعي.
ويُترجم هذا المبدأ عمليًا من خلال طرح أسئلة مثل:
هل نحتاج فعلًا إلى استخدام الذكاء الاصطناعي في هذه المهمة؟
هل يتوافق استخدامه مع قيمنا؟
ما الذي قد نفقده عند استخدام هذه الأداة؟
بدأت كلتا المؤسستين بالسؤال نفسه:
ما الذي نريد حمايته؟
وقد اختلفت المبادئ بين المؤسستين لأن رسالتيهما وأهدافهما مختلفة.
وستكون إجابات مؤسستكم مختلفة أيضًا.
أنتم لا تبدأون من الصفر
إذا بدا لكم أن تحديد مبادئ الذكاء الاصطناعي مهمة معقدة أو مرهقة، فهناك خبر مطمئن:
لستم أول من يخوض هذه الرحلة، فمنذ عام 2019، عملت جهات عديدة، مثل: المفوضية الأوروبية، منظمة التعاون الاقتصادي والتنمية (OECD)، منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) و المعهد الوطني للمعايير والتقنية (NIST) على تطوير أطر ومبادئ للذكاء الاصطناعي. وقد أظهرت هذه الجهود مجموعة من المبادئ المشتركة التي تتكرر عبر معظم الأطر الدولية، من أبرزها:
التدخل البشري والإشراف
يبقى الإنسان صاحب القرار النهائي في القرارات المصيرية والمؤثرة.
الخصوصية وحوكمة البيانات
تُحمى البيانات الشخصية وتُدار بصورة مسؤولة وآمنة.
الشفافية
يفهم الأفراد كيفية عمل أنظمة الذكاء الاصطناعي وكيف يمكن أن تؤثر فيهم.
العدالة وعدم التمييز
لا ينبغي للذكاء الاصطناعي أن يعزز التحيزات أو يؤدي إلى نتائج غير عادلة.
المساءلة
يجب أن تكون هناك مسؤولية واضحة عن القرارات والنتائج والعواقب المرتبطة باستخدام الذكاء الاصطناعي.
الرفاه الاجتماعي والبيئي
ينبغي أن يسهم الذكاء الاصطناعي في خدمة الأفراد والمجتمعات، مع تقليل الأضرار المحتملة على المجتمع والبيئة.
لكن من المهم أن نتذكر أن هذه الأطر ليست نماذج جاهزة للنسخ والتطبيق الحرفي. فالغرض منها أن تكون نقطة انطلاق تساعد المؤسسات على تطوير مبادئها الخاصة، لا أن تستبدل بها.
فالعمل الحقيقي لا يتمثل في تبني مبادئ الآخرين، بل في اكتشاف المبادئ الأكثر أهمية لمؤسستكم، في سياق عملكم، وللمجتمعات التي تخدمونها.
خذوا مبدأ الإنصاف على سبيل المثال.
قد يحمل المصطلح نفسه معاني مختلفة بحسب طبيعة المؤسسة ورسالتها.
فبالنسبة لمنظمة تعمل مع اللاجئين، قد يعني الإنصاف التأكد من أن أدوات الترجمة الآلية لا تؤدي أداءً أسوأ مع اللغات الأقل شيوعًا، أو أن أنظمة الفرز الآلي لا تُلحق الضرر بالمتقدمين القادمين من مناطق النزاع.
أما بالنسبة لمنظمة تُعنى بالدفاع عن البيئة، فقد يعني الإنصاف التأكد من أن المجتمعات ذات الدخل المحدود، والتي غالبًا ما تكون الأكثر تضررًا من التلوث، لا تُستبعد من الحملات أو البرامج المدعومة بالذكاء الاصطناعي بسبب تصنيفات خوارزمية تعتبرها أقل قيمة.
الكلمة واحدة، لكن طريقة تطبيقها تختلف من مؤسسة إلى أخرى.
لماذا تُعدّ الأصوات المتنوعة مهمة؟
من أكثر الأخطاء شيوعًا في المؤسسات التعامل مع وضع المبادئ باعتباره مهمة تخص الإدارة العليا فقط.
فتجتمع مجموعة صغيرة من القيادات، وتكتب وثيقة، ثم تُرسلها للحصول على التعليقات، وبعد ذلك تُعلن انتهاء العمل.
لكن هذا الأسلوب غالبًا ما ينتج مبادئ تبدو جيدة على الورق، دون أن تعكس الواقع الفعلي للمؤسسة.
فالأشخاص الأقرب إلى الرسالة اليومية للمؤسسة، مثل موظفي البرامج، وأفراد المجتمع، والعاملين في الخطوط الأمامية، كثيرًا ما يرون مخاطر وتحديات لا تراها القيادة.
كما أنهم يمتلكون فهمًا أعمق لما تعتبره المؤسسة مهمًا فعلًا، لا لما تأمل أن يكون مهمًا فقط.
وقد جاء بيان الذكاء الاصطناعي الواعي الخاص بـ ChangemakerXchange (CXC) نتيجة عملية استماع عميقة شملت جميع أعضاء الفريق.
أما إطار عمل أكاديمية خان فيُدار من خلال فريق متعدد التخصصات يضم فرق المنتجات، والبيانات، وأبحاث المستخدمين، بما يضمن أن تُسهم وجهات النظر المختلفة في تشكيل النهج المتبع.
إن عملية تطوير المبادئ لا تقل أهمية عن المبادئ نفسها.
فعندما يشارك الأفراد في تحديد ما يهم المؤسسة وما يستحق الحماية، فإنهم يصبحون حماةً لتلك القيم، لا مجرد متلقين لوثيقة أو سياسة داخلية.
مبادئ حية ومتجددة
إليكم حقيقة قد تبعث على الارتياح: لن تكون النسخة الأولى مثالية، ولا يُشترط أن تكون كذلك.
فمبادئ الذكاء الاصطناعي المسؤول ليست وثائق جامدة، بل وثائق حية تتطور مع تطور التكنولوجيا، ومع تعمق فهم المؤسسة، ومع تراكم الخبرات والدروس المستفادة مما ينجح وما لا ينجح.
تلتزم ChangemakerXchange (CXC) بمراجعة وثائق الذكاء الاصطناعي الخاصة بها كل ستة أشهر. كما تواصل أكاديمية خان تقييم إطار عملها بصورة مستمرة من خلال العروض التوضيحية، وحلقات التغذية الراجعة، وإشراك أصحاب المصلحة.
وتتعامل كلتا المؤسستين مع مبادئهما ليس بوصفها منتجات نهائية، بل باعتبارها حوارًا مستمرًا ومتجددًا.
ولا يعني ذلك أن المبادئ غامضة أو غير ملزمة، بل يعني أنها راسخة في الواقع العملي، وقادرة على التكيف مع المشهد التقني المتغير باستمرار.
استهدفوا النسخة الأولى لا النسخة النهائية.
فالهدف هو البدء والانطلاق، لا انتظار الكمال.
دعوة للبدء
إذا لم تكن مؤسستكم قد حددت مبادئها الخاصة بالذكاء الاصطناعي بعد، فهذه دعوتكم للبدء.
ليس من خلال إعداد وثيقة سياسات جديدة، ولا عبر إنشاء قائمة مراجعة للامتثال، بل من خلال حوار حقيقي وصادق.
اجمعوا فريقكم.
هيئوا مساحة تسمح للجميع بالتعبير عن آمالهم، ومخاوفهم، وتساؤلاتهم، وتحدياتهم.
واسألوا أنفسكم:
ما الذي نسعى إلى حمايته؟
ما الذي نرفض التنازل عنه؟
كيف يبدو الذكاء الاصطناعي المسؤول بالنسبة لمؤسسة مثل مؤسستنا؟
الإجابات موجودة بالفعل داخل مؤسستكم.
والمهمة ليست اختراعها من الصفر، بل اكتشافها، وتسميتها، والاتفاق عليها، والالتزام بها معًا.
هذا عمل قيادي بامتياز.
ومنظمات القطاع غير الربحي مؤهلة للقيام به.
هل أنتم مستعدون للخطوة التالية؟
تابعوا موقع Hive Mind بانتظام خلال الأسابيع الثمانية المقبلة للاطلاع على المزيد من المقالات ضمن هذه السلسلة، بالإضافة إلى أدلة عملية متخصصة حول الاستخدام المسؤول للذكاء الاصطناعي في منظمات القطاع غير الربحي.
ولمساعدتكم على الانتقال من مرحلة الإلهام إلى مرحلة التطبيق العملي، أعددنا دليلاً عمليًا مكمّلًا لهذه المقالة بعنوان:
بعنوان: "وضع مبادئ الذكاء الاصطناعي المسؤول لمنظمات القطاع غير الربحي".
سيرشدكم هذا الدليل خلال العملية بأكملها. سواء كنتم منظمة غير ربحية صغيرة تعمل في مجال المناصرة والدفاع عن الحقوق، أو منظمة دولية كبيرة متعددة البرامج، فسيوفر لكم الدليل مسارًا واضحًا للانتقال من:
"يجب أن نفعل شيئًا حيال الذكاء الاصطناعي" إلى: "هذه هي المبادئ التي ستوجه قراراتنا."
المراجع ومصادر إضافية للقراءة
إطار عمل أكاديمية خان للذكاء الاصطناعي المسؤول في التعليم (https://blog.khanacademy.org/khan-academys-framework-for-responsible-ai-in-education/) - كيف نجحت مؤسسة تعليمية غير ربحية في تحويل المبادئ إلى ضوابط وإجراءات عملية.
بيان وسياسة الذكاء الاصطناعي الواعي من ChangemakerXchange (https://changemakerxchange.org/mindful-ai/#manifesto) - نهج قائم على القيم من شبكة عالمية لصنّاع التغيير.
رأيك يهمنا
ما رأيك في هذا المقال؟ خصص 30 ثانية لمشاركة ملاحظاتك، وساعدنا على تطوير محتوى هادف يخدم القطاع غير الربحي.
هذه المقالة هي الأولى ضمن سلسلة«خارطة طريق الذكاء الاصطناعي المسؤول لمنظمات القطاع غير الربحي» وقد طُوِّرت كجزء من مشروع «الذكاء الاصطناعي من أجل الأثر المجتمعي» ضمن برنامج النشاط الرقمي التابع لـ TechSoup، وبدعم من Google.org.
نبذة عن الكاتبة
عائشة غول غوزيل
مهندسة متخصصة في حوكمة الذكاء الاصطناعي المسؤول، تساعد المؤسسات ذات الرسالة الواضحة على تحويل مخاوف الذكاء الاصطناعي إلى أنظمة موثوقة وجديرة بالثقة. تجمع مسيرتها المهنية بين القيادة الاجتماعية التنفيذية والممارسة التقنية للذكاء الاصطناعي. وقد أسست زومبارا (Zumbara)، أكبر شبكة لبنوك الوقت في العالم، كما عملت سابقًا عالمة بيانات، وهي اليوم مدققة معتمدة في مجال الذكاء الاصطناعي. تقدم الإرشاد للمؤسسات خلال رحلات التحول في حوكمة الذكاء الاصطناعي، كما تنفذ عمليات تدقيق تقنية متخصصة لأنظمة الذكاء الاصطناعي. وتدرّس في إليسافا (ELISAVA)، وتشارك في مؤتمرات وفعاليات دولية تتناول المناهج الإنسانية في تصميم التكنولوجيا وتطويرها.
للمزيد من المعلومات: https://aysegulguzel.info وللاشتراك في نشرتها الإخبارية: «الذكاء الاصطناعي الذي تختاره» https://aysegulguzel.substack.com