قبل الخوض في هذا الجزء، تأكد من قراءة المقال حول كيفية قيادة منظمات القطاع غير الربحي للذكاء الاصطناعي المسؤول، ومقدمة هذا الدليل العملي، والجزء الأول: الاستكشاف - تهيئة الأرضية، والجزء الثاني: الإنشاء - تحديد مبادئك وتعريفها، والجزء الثالث: التطبيق العملي.
سألت مسؤولة برامج في منظمة بيئية غير ربحية متوسطة الحجم زميلتها: "هل يُمكنني استخدام ChatGPT لصياغة مراسلاتنا مع المستفيدين؟"
هزت الزميلة كتفيها قائلة: "أعتقد ذلك؟ ربما يُمكنكِ استشارة قسم تقنية المعلومات؟"
قال قسم تقنية المعلومات: "هذا ليس من اختصاصنا. اسألي القيادة."
قالت القيادة: "ربما ينبغي أن يكون لدينا سياسة بهذا الشأن. هل يُمكنكِ مراجعة الأمر؟"
عادت مسؤولة البرنامج إلى مكتبها. كان لديها عملٌ لتنجزه. ومع ذلك، استخدمت ChatGPT.
هنا تكمن مشكلة حوكمة الذكاء الاصطناعي، ليس بسبب مبادئ خاطئة، بل بسبب عدم وضوح المسؤولية
إذا كنت قد تابعت المقال الأول في هذه السلسلة، فقد أنجزت عملاً قيماً. جمعت فريقك، وحددت مواطن الخلل، وحددت المبادئ التي ستوجه مسيرة مؤسستك في مجال الذكاء الاصطناعي. ربما تكون هذه المبادئ موثقة، ومُشاركة، ومُحتفى بها.
ماذا الآن؟ لقد أكملت مرحلة الاستكشاف، وتدخل الآن مرحلة الإنشاء، وهي المساحة التعاونية حيث تجد المبادئ هياكلها.
لماذا تُعدّ المسؤولية مهمة، ولماذا الآن؟
يتسارع تبني الذكاء الاصطناعي في القطاع غير الربحي بوتيرة أسرع من قدرة هياكل الحوكمة على مواكبتها. يستخدم أعضاء فريقك بالفعل أدوات الذكاء الاصطناعي، بعضهم على دراية به، والبعض الآخر غير معروف. كل يوم يمر دون تحديد واضح للمسؤولية هو يوم من القرارات المتضاربة، والمخاطر المتزايدة، والمبادئ التي تُترك بلا رقيب.
إليك الحقيقة المُرّة: "الجميع مسؤول" تعني في الواقع لا أحد مسؤول.
حوكمتك مُعرّضة للخطر بالفعل في الحالات التالية:
عدم وجود مسؤولين مُعيّنين في وثيقة مبادئك
استخدام الفرق عبارة "أفترض أن أحدهم وافق على هذا
عدم معرفة الجهة التي يجب الرجوع إليها عند مواجهة موقف غامض
اتخاذ برامج مختلفة قرارات متناقضة في مجال الذكاء الاصطناعي
بالنسبة لمنظمات القطاع غير الربحي ذات الموارد المحدودة، يُعدّ هذا الغموض مكلفا للغاية. فلا مجال لتحمّل ازدواجية الجهود، أو تضارب الرسائل الموجهة للمجتمعات، أو الضرر الذي يلحق بسمعتها نتيجة خطأ في الذكاء الاصطناعي. فالوضوح ليس بيروقراطية، بل هو ضرورة للبقاء.
حوكمة ومبادئ: حوار موازٍ
إليكم شيئًا تعلمته من خلال توجيه المنظمات خلال هذا العمل: لا تنتظر حتى "تنتهي" مبادئك لتحديد من سيتولى رعايتها.
ينبغي أن تتم مناقشة الحوكمة بالتوازي مع تحديد المبادئ، لا بعد ذلك. لماذا؟ لأن الأشخاص المسؤولين عن حوكمة الذكاء الاصطناعي يجب أن يشاركوا في صياغة المبادئ نفسها. فهم بحاجة إلى فهم التحديات والمفاضلات والأسباب الكامنة وراء كل التزام.
قد تقضي المؤسسات شهورا في صياغة مبادئ مثالية، لتجد نفسها في مأزق عند كتابة السياسات. فبدون مسؤولين محددين، لن يكون هناك من يقود العملية.
إنّ تسمية هيئة الحوكمة مبكراً، حتى في مسودتها، تُتيح البدء الفوري في ممارسة المسؤولية: تسهيل الحوار حول المبادئ، وجمع الآراء، وبناء قوة صنع القرار التعاوني. وبحلول الوقت الذي يُمكن فيه صياغة السياسة، يكون الفريق قد بنى بالفعل الثقة وآليات العمل اللازمة لتوجيهها.
كيف تبدو المسؤولية في الواقع: الشجرة التي تحتضن الحوار
تخيّل شجرة في ساحة قرية. يتجمع الناس تحتها. وتدور الأحاديث في ظلها. إنها لا تتكلم، لكنها تحتضن المكان الذي تُناقش فيه الأمور المهمة.
هذا هو نموذج إدارة الذكاء الاصطناعي: "الشجرة" - وهي مجموعة صغيرة من الأشخاص الذين يُهيئون بيئةً للحوار المستمر حول الذكاء الاصطناعي في المؤسسة. لا يقومون بكل ما يتعلق بالذكاء الاصطناعي، ولا يتخذون كل قرار بمفردهم. إنهم بمثابة الحاضنة والمركز والركيزة الأساسية التي تضمن استمرار الحوار. دور "الشجرة" هو الإشراف، وليس السيطرة.
عملياً، "الشجرة" هي:
المكان الأول الذي يلجأ إليه الناس عند وجود أسئلة أو مخاوف بشأن الذكاء الاصطناعي، بوابة واضحة لم تكن موجودة من قبل.
جمع رؤى من مختلف أقسام المؤسسة حول ما ينجح، وما هو مُربك، وما هو مُحفوف بالمخاطر.
ضمان الالتزام التام بالاتفاقيات الواردة في مبادئك، ليس فقط عند الإطلاق، بل بشكل مستمر.
خلق مساحة للحوار المستمر، حتى لا يصبح الذكاء الاصطناعي موضوعا يتجنبه الناس أو يتعاملون معه بشكل فردي.
ربط استخدامات الذكاء الاصطناعي بين الفرق المختلفة، وملاحظة الأنماط التي قد لا يلاحظها فريق واحد.
الاحتفاظ بسجل مؤسسي للقرارات السابقة وأسبابها، لتجنب البدء من الصفر في كل مرة.
كيف يبدو هذا في مختلف المؤسسات؟ تلك التي تنجح في إدارة الذكاء الاصطناعي لا تخترع عمليات غريبة، بل تدمج المسؤولية في طريقة عملها الحالية.
تُبيّن أكاديمية خان كيف تندمج الحوكمة في العمليات القائمة. فمجموعة التوجيه المعنية بالذكاء الاصطناعي المسؤول، والمُخصصة للقيادة التي تُمثل أقسام المنتج والبيانات وبحوث المستخدمين، تُسهّل التوافق الاستراتيجي. بينما يقوم فريق العمل الموسّع المعني بالذكاء الاصطناعي المسؤول بتقييم القدرات المستقبلية ومراقبة الميزات المُطلقة. ويُدمج هذا الفريق التقييم في تصميم المنتج، ويُقيّم الميزات من خلال العروض التوضيحية وحلقات التغذية الراجعة، ويُحافظ على تواصل مستمر مع أصحاب المصلحة. تبدو حوكمة الذكاء الاصطناعي وكأنها أسلوب عملهم، مُطبّق ببساطة على مجال جديد.
تقدم شبكة ChangemakerXchange (CXC)، وهي شبكة عالمية من رواد الأعمال الاجتماعيين، نموذجا مُصمما خصيصا للمؤسسات الصغيرة. يعمل فريقها الصغير والمتخصص، المعروف باسم "دائرة الإشراف على الذكاء الاصطناعي"، كحارسٍ لبيان وسياسة الذكاء الاصطناعي الواعي. يوميا، يُعد أعضاء الدائرة نقطة الاتصال الأولى لأي فرد في الفريق لديه سؤال أو استفسار يتعلق بالذكاء الاصطناعي. ومن خلالهم تُجمع المعلومات والتحليلات؛ ما الذي يُجدي نفعا، وما الذي يُثير الحيرة، ومواطن الغموض. كما يضمنون التزام الفريق بمبادئهم، ليس فقط نظريا، بل عمليا أيضا.
بصورة أكثر رسمية، تُجري الدائرة تحديثات للوثائق مرتين سنوياً، وتُشرف على تقييمات الأثر للأدوات وسير العمل الجديدة، وتُحيل القرارات الرئيسية أو المثيرة للجدل إلى الفريق بأكمله. والجدير بالذكر أن دائرتهم قد تضم عضواً من المجتمع أو خبيراً خارجياً في مجال الذكاء الاصطناعي، مما يُضفي منظوراً خارجياً على عملية الحوكمة.
يشير كلا المثالين إلى فكرة جوهرية: ينبغي أن تكون الحوكمة طُعمًا يُزرع في الجسم القائم، لا عضوًا غريبًا يُزرع بديلاً عنه. فآليات اتخاذ القرار الحالية، وأساليب التواصل، وهياكل فرق العمل هي الأساس. قبل تصميم أي شيء جديد، اسأل نفسك: كيف نتخذ القرارات المهمة هنا بالفعل؟
من الأخطاء الفادحة فرض هيكل حوكمة غريب عن ثقافتك، إذ سيُرفض رفضاً قاطعاً. بدلاً من ذلك، ابحث عن مكانٍ يتناسب فيه مسؤولية حوكمة الذكاء الاصطناعي بشكل طبيعي مع ما هو قائم بالفعل.
نماذج مختلفة للمسؤولية
لا يوجد هيكل "صحيح" واحد. يعتمد النموذج الأمثل على حجم مؤسستك، ومدى تعقيدها، ونضج الذكاء الاصطناعي فيها، والأهم من ذلك، ثقافتها.
الثنائي: شراكة بين شخصين على الأقل، يُفضّل أن يكون أحدهما ذا خبرة تقنية والآخر مُلمّاً برسالتك وقيمك. يتعاونان معاً لتحديد ما إذا كان بإمكاننا فعل ذلك أم لا. يضمن الثنائي عدم تحمّل أيٍّ منهما المسؤولية بمفرده. يُعدّ هذا الخيار الأمثل للمؤسسات الصغيرة والمشاريع الناشئة في مجال الذكاء الاصطناعي.
الدائرة: مجموعة متعددة التخصصات تضم من 3 إلى 7 أفراد يمثلون البرامج والعمليات والاتصالات والقيادة. على غرار دائرة الإشراف في CXC، تجتمع هذه المجموعة بانتظام وعند اتخاذ قرارات هامة. يُنصح بإشراك ممثلين عن المجتمع المحلي. تُعد هذه المجموعة الأنسب للمؤسسات متوسطة الحجم التي لديها برامج متعددة تستخدم الذكاء الاصطناعي.
نموذج المركز والأطراف: توفر نقطة تنسيق مركزية التوجيه والمعايير، بينما تقع مسؤولية التنفيذ على عاتق الفرق الفردية. يُمكّن المركز الفرق من اتخاذ قرارات سليمة بأنفسهم. يُعد هذا النموذج الأمثل للمؤسسات الكبيرة ذات الهياكل الاتحادية.
ابدأ بأبسط نموذج يراعي طريقة عملك الفعلية. يمكنك دائماً إضافة التعقيد لاحقاً.
التعاون والشروط اللازمة له
إذا كانت هناك فكرة واحدة برزت بوضوح من ممارسة الذكاء الاصطناعي المسؤول، فهي هذه: التعاون هو نموذج التشغيل الأساسي للابتكار المسؤول.
يؤثر الذكاء الاصطناعي على كل شيء: البيانات، والبرامج، والاتصالات، والعلاقات مع المجتمعات. لا يمتلك أي شخص بمفرده الخبرة اللازمة لإدارته بكفاءة. فوجود شخص واحد مسؤول عن إدارة الذكاء الاصطناعي بمفرده سيؤدي إما إلى الإرهاق، أو يصبح عائقاً أمام سير العمل، أو يتخذ قرارات دون مراعاة التنوع الذي يتطلبه الذكاء الاصطناعي المسؤول.
تُسهّل أداة بسيطة التعاون في المهام التي تتطلب بالفعل وجهات نظر متعددة، مثل الموافقة على أداة جديدة أو وضع سياسة. يجب توضيح من هو المسؤول (الذي يقوم بالعمل)، ومن هو المُساءَل (صاحب القرار النهائي)، ومن هو المُستشار (الذي يُقدّم مدخلات أساسية)، ومن هو المُطّلع (الذي يتم إطلاعه على آخر المستجدات).
التعاون يعني أن يكون عدة أشخاص مسؤولين (يقومون بالعمل) ومستشارين (يقدمون مدخلات أساسية). لكن يجب أن يكون الشخص المسؤول، صاحب القرار النهائي، شخصًا واحدًا. عندما تُوزّع المسؤولية، تختفي. لا أحد يرغب في أن يكون صاحب القرار، لذا لا أحد يفعل ذلك. وجود شخص واحد مسؤول لا يتعلق بالتسلسل الهرمي، بل بضمان اتخاذ القرارات فعليًا.
على سبيل المثال، عند الموافقة على أداة ذكاء اصطناعي جديدة للتواصل المجتمعي، سيتم توزيع الأدوار في الفريق بالطريقة التالية:
صاحب المساءلة: قائد دائرة الإشراف
المسؤول: فريق البرنامج الذي طلب الأداة، وأحد أعضاء الفريق التقني
المستشارون: ممثلو المجتمع، والشؤون القانونية/الامتثال إن وُجد
المطلعون: القيادة، وباقي الموظفين
لاحظ كيف أن التشاور المجتمعي جزء لا يتجزأ من العملية، وليس مجرد فكرة لاحقة، بل مدخلات أساسية.
مع ذلك، لا ينجح التعاون إلا في بيئة ثقافية مناسبة. وباستخدام هذا التشبيه، تحتاج شجرتك إلى التربة المناسبة لتنمو فيها.
مساحات آمنة وأمان نفسي. يجب أن يشعر الأفراد على جميع المستويات بالأمان التام للتعبير عن آرائهم بشأن مخاطر الذكاء الاصطناعي، والتحيزات المحتملة، أو المخاوف الأخلاقية، دون خوف من العقاب. فالمخاوف التي لا تُفصح عنها غالبًا ما تكون الأهم.
إنصات عميق وحوار شامل. لا يمكن لهيئات الحوكمة أن تعمل بمعزل عن الواقع. بل يجب عليها السعي الحثيث إلى استكشاف وتقدير وجهات النظر المتنوعة، التقنية وغير التقنية، الداخلية والخارجية. ويشمل ذلك المجتمعات التي تخدمها، والتي تُعد تجاربها المعيشية رؤى لا تُقدر بثمن.
إدارة الخلافات بصورة بناءة. تتضمن النقاشات حول أخلاقيات الذكاء الاصطناعي بطبيعتها وجهات نظر متباينة ومقايضات حقيقية. لذا، تُعدّ القدرة على إدارة الخلافات بشكل بنّاء، والبحث عن أرضية مشتركة أو اتخاذ قرارات مبدئية وشفافة، أمرا بالغ الأهمية.
ترسيخ التغيير في مختلف المستويات. لا تقتصر الحوكمة الفعّالة للذكاء الاصطناعي على كونها سياسة تُفرض من أعلى إلى أسفل، بل هي حافز للتطور الثقافي، تشجع على التفكير النقدي في التكنولوجيا وتحسين التعاون بين الفرق.
تحقيق ذلك على أرض الواقع: الميثاق
إن الميثاق ليس بيروقراطية معقدة. إنه الوثيقة الوحيدة التي تمنح مؤسستك جذورها؛ وتحدد غرضها وسلطتها وإجراءاتها.
ينبغي أن يجيب ميثاقك على خمسة أسئلة:
لماذا نحن موجودون؟ (مهمتكم)
ماذا سنفعل؟ (المسؤوليات الرئيسية، وما لن تفعلوه)
من نحن؟ (العضوية، وآلية الاختيار، ومدة العضوية)
كيف نتخذ القرارات؟ (آلية اتخاذ القرارات والتصعيد)
كيف يتعاون الناس معنا؟ (جهة الاتصال الرئيسية للاستفسارات)
يُقدّم النموذج المرفق إطارا للميثاق قابلا للتعديل. ولكن تذكّر: النموذج مصدر إلهام، وليس وصفة جاهزة. الهدف الحقيقي هو الإجابة عن هذه الأسئلة بطريقة تتناسب مع ثقافة المنظمة الفريدة.
دعوة لتحويل مبادئك إلى واقع
تمثل مبادئ الذكاء الاصطناعي للمنظمة عملاً حقيقياً؛ حوارات صريحة، وتوترات مكشوفة، والتزامات مشتركة. إنها تستحق أكثر من مجرد وثيقة. إنها تستحق مكاناً.
حددوا الشجرة. قد يكونون ثنائيًا مستعدا لإدارة هذا الحوار معا. أو قد يكونون دائرة صغيرة من الزملاء الموثوق بهم. حددوهم الآن، حتى قبل أن تشعروا بأن مبادئكم قد اكتملت. دعوهم يتطورون في هذا الدور من خلال ممارسة الحوكمة خلال عملية كتابة السياسات المقبلة.
مبادئك جاهزة لأن تتحول إلى ممارسة عملية. هيئ لها بيئة تنمو فيها، وأشخاصاً يتولون رعايتها معاً.
مورد مصاحب: حوّلها إلى واقع — نموذج ميثاق لتوجيه تفكيرك
تأكد من متابعة الدليل مع الجزء 5: كيف يمكن لمنظمات القطاع غير الربحي إنشاء سياسات الذكاء الاصطناعي التي يمكن تطبيقها فعليا لقراءة عملية إنشاء قواعد الذكاء الاصطناعي، والجزء 6: كيف يمكن لمنظمات القطاع غير الربحي تقييم مخاطر الذكاء الاصطناعي قبل حدوث الضرر، لمعرفة كيفية معالجة المخاطر التي تأتي مع الذكاء الاصطناعي.
رأيك يهمنا
ما رأيك في هذا المحتوى؟ خصص 30 ثانية لمشاركة رأيك، وساعدنا في تقديم محتوى أكثر قيمة يخدم القطاع غير الربحي!
إخلاء مسؤولية
أُعد هذا المحتوى ضمن مشروع "الذكاء الاصطناعي من أجل التغيير الاجتماعي" ضمن برنامج النشاط الرقمي التابع لـ TechSoup، بدعم من Google.org.
استعانت المؤلفة بأدوات الذكاء الاصطناعي في إعداد هذا المحتوى، إلا أن المقال كُتب بالكامل، ونُقح، ورُوجع من قبل المؤلفة وفريق TechSoup.
تتطور أدوات الذكاء الاصطناعي بسرعة، وبينما نبذل قصارى جهدنا لضمان دقة المحتوى وحداثته، قد تكون بعض العناصر غير محدّثة. إذا لاحظت أي معلومة قديمة، يُرجى إبلاغنا عبر البريد الإلكتروني contact@hive-mind.community
عن المؤلفة
آيشغول غوزيل مهندسة حوكمة ذكاء اصطناعي مسؤولة، تُساعد المؤسسات ذات الرسالة المجتمعية على تحويل مخاوفها بشأن الذكاء الاصطناعي إلى أنظمة جديرة بالثقة. يجمع مسارها المهني بين القيادة التنفيذية في القطاع الاجتماعي والخبرة التقنية؛ فقد شغلت مناصب قيادية في زومبارا، أكبر شبكة لبنوك الوقت في العالم، كما عملت مدققة معتمدة للذكاء الاصطناعي، ومتخصصة في علم البيانات. تُقدم آيشغول التوجيه للمؤسسات خلال تحولات حوكمة الذكاء الاصطناعي الشاملة، وتُجري عمليات تدقيق تقنية للذكاء الاصطناعي. تُدرّس في إليسافا، وتُلقي محاضرات دولية حول المناهج التي تُركز على الإنسان في مجال التكنولوجيا. للمزيد من المعلومات، تفضلوا بزيارة موقعها الإلكتروني https://aysegulguzel.info أو اشتركوا في نشرتها الإخبارية "AI of Your Choice" عبر الرابط https://aysegulguzel.substack.com.