تسعى هذه المقالة إلى تقديم منظور أكثر توازنًا وفائدة لهذا النقاش، من خلال فهم الروايتين معًا: الرواية التحذيرية والرواية المتفائلة. لقد أصبحت أدوات الذكاء الاصطناعي جزءًا من واقع العمل اليومي للعاملين في مجال سلامة المعلومات. ولم يعد السؤال اليوم ما إذا كان ينبغي استخدامها، بل كيف يمكن استخدامها دون فقدان القدرة على التقييم النقدي التي تمنح هذا العمل قيمته الحقيقية.
الأداة التي تستخدمها بالفعل... وربما لا تعرفها تمام المعرفة
فكّر في آخر مرة بحثت فيها عن معلومة ما. وبحسب المتصفح أو محرك البحث الذي استخدمته، فقد لا يكون أول ما ظهر أمامك قائمة من الروابط، بل فقرة مصاغة على هيئة إجابة، أنشأها نظام ذكاء اصطناعي. ربما قرأتها ثم انتقلت إلى ما بعدها معتقدًا أن بحثك قد انتهى. هذا ما يفعله معظم الناس.
وهذه إحدى الطرق التي أصبح بها الذكاء الاصطناعي مصدرًا للمعلومات، لا مجرد أداة للإنتاجية. فمحركات البحث مثل Google وBing وغيرها تعرض اليوم نتائج مولدة بالذكاء الاصطناعي قبل أي نتائج خضعت لمراجعة بشرية. وتبدو هذه الإجابات موثوقة في ظاهرها، لكنها لا تتضمن دائمًا اسم الكاتب أو تاريخ النشر أو قائمة بالمصادر التي يمكن الرجوع إليها للتحقق.
وبالمثل، قد يكون استخدام نموذج ذكاء اصطناعي للبحث الأولي عند التعامل مع موضوع جديد أكثر تعمدًا، لكنه ينطوي على المخاطر نفسها. وقد أصبح هذا الاستخدام شائعًا بصورة متزايدة لأنه سريع وفعال. ولسنوات طويلة، اعتاد الناس استخدام ويكيبيديا ومصادر مشابهة بالطريقة نفسها، ليس باعتبارها مصدرًا نهائيًا، بل كنقطة انطلاق للتعرف إلى موضوع غير مألوف. إلا أن هناك فرقًا جوهريًا؛ فويكيبيديا تُظهر مصادرها، وعندما تكون معلومة ما أو محتوى معين محل خلاف أو جدل، يظهر تنويه يوضح مواضع الشك أو التناقض. أما روبوتات الدردشة، فتقدم سردًا واثقًا دون مستوى مماثل من الشفافية.
وفي مواقف أكثر بساطة وعفوية، يطرح المستخدمون سؤالًا محددًا على نموذج ذكاء اصطناعي للحصول على إجابة سريعة. على سبيل المثال: ماذا يعني هذا الاختصار؟ متى صدر هذا القانون؟ من يقود هذه المنظمة؟ وهي أسئلة اعتاد الناس الإجابة عنها من خلال بحث سريع أو الرجوع إلى مصدر موثوق. أما اليوم، فيتوجه كثير منهم مباشرة إلى روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، التي تجيب بطلاقة وثقة... وأحيانًا بشكل خاطئ.
ولا يُعد أي من هذه الاستخدامات خطأً في حد ذاته. تكمن المشكلة في استخدام الذكاء الاصطناعي كمصدر للمعلومات دون فهم طبيعة هذا المصدر وكيفية عمله.
كيف تعمل هذه الأدوات فعليًا؟ ولماذا يُعد ذلك مهمًا؟
لا تفهم نماذج اللغة الكبيرة — وهي التقنية التي تقف خلف ChatGPT وClaude وGemini وغيرها من الأدوات المشابهة — العالم أو المعلومات بالطريقة التي يفهمها البشر. فهي تتعلم الأنماط الإحصائية من كميات هائلة من النصوص؛ أي الكلمات التي تميل إلى الظهور معًا، والعبارات التي تتبع عبارات أخرى.
ولا يفهم النموذج معنى ما ينتجه، بل يولد نصًا يشبه ما يُقال عادةً حول موضوع معين.
ولهذا الأمر تبعات عملية مباشرة ينبغي تذكرها عند استخدام هذه الأدوات. فالنموذج لا يعرف ما إذا كانت المعلومة صحيحة أم لا، بل يعرف فقط ما إذا كانت تبدو مألوفة وشائعة ضمن البيانات التي تدرب عليها. وفي حالة الحقائق الموثقة جيدًا والمنتشرة على نطاق واسع في بيانات التدريب، غالبًا ما تكون الإجابة صحيحة. ومن الأمثلة الواضحة على ذلك قصة اكتشاف علمي راسخ، مثل اكتشاف الراديوم على يد ماري وبيير كوري عام 1898.
أما عندما يتعلق الأمر بالأحداث الحديثة، أو المعلومات المحلية، أو القضايا التي تكون البيانات المتاحة عنها محدودة أو متنازعًا عليها أو متناقضة، فقد ينتج النموذج إجابة خاطئة بالطلاقة والثقة نفسيهما اللتين ينتج بهما إجابة صحيحة. ولنتخيل، على سبيل المثال، نتائج انتخابات محلية حديثة ومثيرة للجدل في دولة غير ناطقة باللغة الإنجليزية. وبما أن هذه النماذج لغوية بطبيعتها، فإن اللغة التي تتوافر بها البيانات تؤثر بصورة مباشرة في جودة النتائج التي تنتجها.
وهذا ليس خللًا في النظام، بل سمة أساسية في طريقة عمل هذه النماذج.
وتوجد مشكلة هيكلية ثانية، تتمثل في أن هذه النماذج تتأثر بشدة بالطريقة التي تُطرح بها الأسئلة عليها. فالشخص الذي يفهم آلية عملها يستطيع صياغة سؤال يدفع النموذج نحو تأكيد ادعاء غير صحيح. ولا يتطلب ذلك خبرة تقنية متقدمة، بل يكفي غالبًا إجراء عدة محاولات متتالية للوصول إلى النتيجة المطلوبة. وكما يمكن فهم خوارزميات وسائل التواصل الاجتماعي واستغلالها، يمكن أيضًا فهم النماذج اللغوية والتأثير في مخرجاتها.
الذكاء الاصطناعي وسلامة المعلومات
تحظى المخاطر المرتبطة بالذكاء الاصطناعي التي يسهل ملاحظتها بأكبر قدر من الاهتمام، مثل التزييف العميق، والصور المصطنعة، ومقاطع الفيديو المولدة بالذكاء الاصطناعي. وهي مخاطر حقيقية بالفعل، كما أنها من أسهل المخاطر رصدًا ومناقشة، لأنها تتعلق بمحتوى جرى اختلاقه عمدًا.
إلا أن هناك خطرًا أكثر دقة يمكن وصفه بمصطلح «تبييض الروايات». ويشير هذا المفهوم إلى محتوى قد لا يكون خاطئًا من الناحية التقنية، لكنه يعرض الموضوع بطريقة تعزز فهمًا مشوهًا أو منحازًا.
فعلى سبيل المثال، قد يُطلب من نموذج ذكاء اصطناعي تلخيص قضية محل خلاف، فينتج ملخصًا يبدو متوازنًا، لكنه يغفل بصورة منهجية أحد جوانب القضية. وقد يعرض أيضًا موقفًا هامشيًا كما لو كان موقفًا سائدًا، لأن هذا التأطير كان ممثلًا بصورة أكبر في بيانات التدريب التي تعلم منها النموذج.
في مثل هذه الحالات، لا يكون أحد قد اختلق معلومات عمدًا، كما لا يكون التشويه مقصودًا بالضرورة. بل ينشأ نتيجة الطريقة الإحصائية التي يعمل بها النموذج.
ويكتسب هذا الأمر أهمية خاصة للعاملين في مجال سلامة المعلومات، ليس فقط بوصفه خطرًا ينبغي الانتباه إليه في المحتوى الخارجي، بل أيضًا بوصفه خطرًا قد يظهر في مخرجاتهم هم أنفسهم. فإذا استخدمت نموذج ذكاء اصطناعي للبحث في موضوع معين، أو لصياغة موقف، أو لتلخيص تقرير، فقد تنتقل التحيزات الموجودة في بيانات التدريب إلى النتائج دون أي إشارة واضحة إلى وجود مشكلة.
وسيبدو الناتج متماسكًا وواثقًا، وهذا بالضبط ما يجعله جديرًا بالمراجعة والتدقيق.
أين يدعم الذكاء الاصطناعي سلامة المعلومات حقًا؟
على الرغم من هذه التحديات، فإن رفض الذكاء الاصطناعي بالكامل ليس نهجًا عمليًا. فهذه الأدوات توفر بالفعل قيمة حقيقية في العمل المتعلق بسلامة المعلومات، ولكن ليس بالطريقة التي يُروَّج لها أحيانًا.
فهم ما يتم تداوله وسبب تداوله
غالبًا ما يتطلب فهم البيئة المعلوماتية تحليل كميات كبيرة من البيانات: منشورات على وسائل التواصل الاجتماعي، وتعليقات، ومقالات إخبارية، ومناقشات عامة.
يمكن للذكاء الاصطناعي المساعدة في فرز هذه المواد وتجميعها وتصنيفها بسرعة أكبر بكثير من قدرة الإنسان وحده. فعلى سبيل المثال، يمكن لفريق يعمل على متابعة النقاشات العامة حول قضية معينة أن يستخدم الذكاء الاصطناعي لتحديد الموضوعات أو السرديات أو الأنماط المتكررة.
لكن من المهم التذكير بأن الذكاء الاصطناعي لا يحدد ما هو مهم أو صحيح. فهو يقترح أنماطًا وتصنيفات محتملة، بينما يبقى القرار النهائي والتحقق والتفسير مسؤولية الفريق البشري.
الاستعداد للرد
يمكن للذكاء الاصطناعي أن يساعد الفرق في استكشاف السيناريوهات المحتملة وصياغة ردود أولية أو إعداد مواد توعوية حول قضية معينة.
فعلى سبيل المثال، قد يُطلب منه اقتراح الأسئلة التي قد يطرحها الجمهور حول موضوع محدد، أو تحديد النقاط التي قد يساء فهمها، أو اقتراح طرق مختلفة لشرح مفهوم معقد.
وفي هذه الحالات، يعمل الذكاء الاصطناعي كأداة للعصف الذهني وتوليد الأفكار، وليس كخبير يقدم إجابات نهائية.
دعم التفكير النقدي
من الاستخدامات المفيدة الأخرى مطالبة الذكاء الاصطناعي بتقديم وجهات نظر مختلفة حول قضية ما، أو عرض الاعتراضات المحتملة على حجة معينة.
قد لا تكون جميع هذه الاعتراضات أو وجهات النظر دقيقة أو ذات قيمة، لكنها تساعد الفرق أحيانًا على رؤية زوايا لم تكن مطروحة سابقًا، مما يعزز النقاش الداخلي ويُسهم في تحسين جودة التحليل.
أين تكمن الحدود؟
هناك إغراء متزايد للتعامل مع الذكاء الاصطناعي بوصفه حكمًا نهائيًا في مسائل الحقيقة والخطأ. إلا أن هذا الدور لا يناسب طبيعة هذه الأنظمة.
فالذكاء الاصطناعي لا يمتلك فهمًا للحقيقة، ولا يملك القدرة على تقييم الأدلة كما يفعل البشر. وهو لا يعرف ما إذا كانت المعلومة صحيحة أو غير صحيحة، بل ينتج استجابات استنادًا إلى الأنماط التي تعلمها من البيانات.
ولهذا السبب، فإن الاعتماد عليه بوصفه أداة تحقق نهائية قد يؤدي إلى أخطاء خطيرة، خصوصًا في القضايا المعقدة أو الحساسة أو المتغيرة بسرعة.
كما ينبغي الانتباه إلى أن جودة المخرجات تعتمد بشكل مباشر على جودة المدخلات. فإذا كانت البيانات التي يتعامل معها النموذج غير مكتملة أو منحازة أو محدودة، فإن النتائج ستعكس هذه المشكلات بصورة أو بأخرى.
ولا يتعلق الأمر فقط بالأخطاء الواقعية، بل أيضًا بالتحيزات والافتراضات التي قد تتسلل إلى عملية التحليل أو التلخيص أو التصنيف.
كيف يمكن استخدام الذكاء الاصطناعي بصورة مسؤولة؟
تتمثل إحدى أفضل الممارسات في التعامل مع الذكاء الاصطناعي بوصفه مساعدًا في التفكير، لا بديلًا عن التفكير.
وعند استخدامه في العمل المتعلق بسلامة المعلومات، يمكن الاستفادة من الإرشادات التالية:
استخدم الذكاء الاصطناعي لتوليد الأفكار الأولية، وليس لاتخاذ القرارات النهائية.
تحقق دائمًا من المعلومات المهمة بالرجوع إلى مصادر موثوقة ومستقلة.
اطلب من النموذج عرض وجهات نظر متعددة بدلًا من الاكتفاء بإجابة واحدة.
انتبه إلى التحيزات المحتملة في المخرجات، خصوصًا عند التعامل مع القضايا الحساسة أو المثيرة للجدل.
تعامل مع النتائج بوصفها نقطة بداية للنقاش والتحليل، لا نهاية له.
ما الذي يجب أن نتذكره؟
لا يتمثل التحدي الحقيقي في أن الذكاء الاصطناعي سيستبدل العاملين في مجال سلامة المعلومات، بل في احتمال أن يتخلى هؤلاء العاملون عن بعض مهاراتهم النقدية لصالح أدوات تبدو واثقة ومقنعة.
فالقيمة الأساسية التي يقدمها العاملون في هذا المجال لا تكمن في القدرة على إنتاج النصوص أو تلخيص المعلومات فحسب، بل في القدرة على طرح الأسئلة المناسبة، وتقييم الأدلة، وفهم السياقات، واتخاذ الأحكام المهنية.
يمكن للذكاء الاصطناعي أن يساعد في هذه العملية، وأن يجعل بعض المهام أسرع وأكثر كفاءة، لكنه لا يلغي الحاجة إلى التفكير النقدي أو المسؤولية البشرية.
وفي نهاية المطاف، لا تتعلق سلامة المعلومات بالأدوات التي نستخدمها، بل بالطريقة التي نستخدمها بها، وبقدرتنا على الحفاظ على معايير الدقة والشفافية والمساءلة في عالم تتزايد فيه كمية المعلومات وسرعة تداولها.
رأيكم يهمنا
ما رأيكم في هذا المقال؟ خصصوا 30 ثانية لمشاركة ملاحظاتكم ومساعدتنا على تطوير محتوى أكثر فائدة للعاملين في القطاع غير الربحي.
إخلاء المسؤولية
تم إعداد هذا المورد ضمن مشروع «الذكاء الاصطناعي من أجل الأثر المجتمعي» التابع لـ برنامج النشاط الرقمي في TechSoup، بدعم من Google.org.
استُخدمت أدوات الذكاء الاصطناعي في إعداد هذا المحتوى. ومع ذلك، تمت كتابة المقالة ومراجعتها وتدقيقها بالكامل من قبل المؤلف وفريق TechSoup.
تتطور أدوات الذكاء الاصطناعي بسرعة كبيرة، وبينما نبذل قصارى جهدنا لضمان دقة المعلومات الواردة في هذه المادة، فقد تصبح بعض المعلومات بحاجة إلى تحديث مع مرور الوقت.
إذا لاحظتم وجود معلومات تحتاج إلى تصحيح أو تحديث، يرجى التواصل عبر البريد الإلكتروني: contact@hive-mind.community
الذكاء الاصطناعي وسلامة المعلومات: دليل عملي للعاملين في القطاع غير الربحي ، من تأليف روسيو بينافينتي بيريز، مؤسسة Maldita.es، 2026، لصالح هايف مايند، مرخص بموجب رخصة المشاع الإبداعي CC BY 4.0.