دخلت أدوات الذكاء الاصطناعي إلى هذه البيئة في وقت تشتد فيه الحاجة إليها، غير أن المشكلة تكمن في تقديمها بوصفها حلًا لمشكلة مختلفة. فكثير من المنظمات تبنتها على أمل أتمتة عملية التحقق التحريري، ثم اكتشفت حدود قدراتها.

وتطرح هذه المقالة منظورًا مختلفًا، ينظر إلى الذكاء الاصطناعي بوصفه بنيةً تحتيةً للتحليل، لا بديلًا عن التقييم البشري. ومن خلال استعراض تجربة موقع Maldita.es الإسباني المتخصص في التحقق من الحقائق، سنوضح كيف تساعد هذه الأدوات، بدلًا من إصدار الأحكام بشأن صحة المعلومات، على كشف ما يحدث عبر نطاق وسرعة يصعب على البشر رصدهما بمفردهم.

مشكلة تجاوزت القدرات البشرية

يقصد بسلامة المعلومات مدى دقتها، وإمكانية تتبع مصادرها، والحفاظ على سياقها الصحيح. وقد تعرضت هذه الركائز الثلاث لضغوط منهجية فرضتها البيئة الرقمية، حتى أصبحت أنماطها واضحة ومتكررة.

تتمثل الآلية الأولى في خوارزميات المنصات، التي تكافئ المحتوى الأكثر إثارة للمشاعر والأكثر قابلية للمشاركة، على حساب معايير أكثر موضوعية، مثل حداثة المحتوى أو صلته بشبكة المستخدم. ونتيجة لذلك، يزداد انتشار المحتوى الأكثر جذبًا للانتباه، لا الأكثر موثوقية.

أما الآلية الثانية، فتتمثل في سهولة فصل المحتوى عن مصدره الأصلي أو تاريخه أو سياقه، مما يجعل التحقق منه أكثر صعوبة. فقد يُعاد نشر مقطع فيديو صُوّر في دولة معينة على أنه يوثق حدثًا في دولة أخرى، أو يُتداول تصريح قديم باعتباره خبرًا جديدًا. ولا تكمن المشكلة هنا في الأخطاء الفردية أو سوء النية، بل في طبيعة البيئة الرقمية التي تفصل المحتوى بصورة منهجية عن البيانات الوصفية اللازمة لتقييمه.

تتمثل آلية الضغط الثالثة في الحجم الهائل للمحتوى. فقد خفضت أدوات الذكاء الاصطناعي التوليدي، إلى جانب آليات النشر المنسقة، تكلفة إنتاج كميات ضخمة من المحتوى ونشرها بصورة غير مسبوقة. فما كان يتطلب في السابق موارد مالية وتنظيمية كبيرة، مثل تنفيذ حملات معلوماتية منسقة أو تشغيل شبكات واسعة من الحسابات الوهمية، أصبح اليوم ممكنًا بتكلفة منخفضة وبأسلوب يعتمد على التجربة المستمرة، مما يزيد صعوبة اكتشافه.

وكما أسهمت منصات التواصل الاجتماعي في خفض تكلفة نشر المحتوى وتداوله، أتاح الذكاء الاصطناعي التوليدي إنتاج محتوى عالي الجودة ومخصص لفئات مختلفة، عبر النصوص والصور والصوت والفيديو، بتكلفة محدودة. وأصبح تدفق المعلومات أسرع وأكثر كثافة من أي وقت مضى، بينما تراهن الجهات المضللة على الكم أكثر من الدقة.

ونتيجة لذلك، تجاوزت وتيرة إنتاج المحتوى قدرة فرق الرصد على متابعته في الوقت الفعلي. فمهما بلغت خبرة المحللين، لا يمكنهم معالجة آلاف المنشورات في الساعة، أو اكتشاف الأنماط الناشئة عبر منصات متعددة، أو الحفاظ على مراقبة مستمرة لبيئة معلوماتية تتغير باستمرار.

ولا يعود ذلك إلى نقص في الموارد البشرية يمكن معالجته بتوظيف مزيد من المختصين، بل إلى خلل هيكلي يتطلب أدوات مصممة للتعامل مع هذا الحجم من البيانات.

وقد تجلت هذه المشكلة بوضوح خلال الفيضانات التي شهدتها إسبانيا عام 2024، وأسفرت عن وفاة 238 شخصًا. ففي أعقاب الكارثة، شهدت البيئة الرقمية موجة غير مسبوقة من المعلومات المضللة، نتجت عن سوء الفهم، والاستغلال السياسي، والحملات المنسقة. وخلال أسبوع واحد فقط، تلقى موقع Maldita.es نحو 13 ألف طلب للتحقق من المعلومات، أي ما يعادل أربعة أضعاف المعدل المعتاد.

وباستخدام أداة الرصد المدعومة بالذكاء الاصطناعي، تمكن الفريق من تصنيف هذه الرسائل ضمن سرديات رئيسية، مثل الادعاءات التي تزعم أن الفيضانات كانت جزءًا من مخطط تقوده النخب، أو أن السلطات أخفت العدد الحقيقي للضحايا. وقد ساعد ذلك في تكوين صورة أوضح للبيئة المعلوماتية، وتحويلها إلى بيانات قابلة للتحليل، وهي خطوة أساسية قبل إعداد تقارير السياسات المتعلقة بتنظيم المنصات الرقمية مثل هذا التقرير.

ما الذي تستطيع أدوات الذكاء الاصطناعي فعله، وما الذي لا تستطيع فعله؟

من أكثر المفاهيم الخاطئة انتشارًا، والأشد خطورة، الاعتقاد بأن أدوات الذكاء الاصطناعي قادرة على تحديد صحة المعلومات. والحقيقة أنها لا تستطيع القيام بذلك بصورة موثوقة، ولا على نطاق واسع، ولا بطريقة تغني عن التقييم التحريري البشري، على الأقل في الوقت الحالي.

ويؤدي تجاهل هذا الحد إلى تصميم أدوات لا تحقق الغرض منها، وإلى منحها ثقة لا تستحقها، وهو ما ينعكس في النهاية على تراجع المصداقية بدلًا من تعزيزها.

وثمة فرق جوهري كثيرًا ما يُغفل في النقاشات العامة، وهو الفرق بين اكتشاف المحتوى المصطنع أو غير الأصيل، وبين التحقق من صحة المعلومات. فهاتان مشكلتان مختلفتان، وتتطلب كل منهما حلولًا تقنية مختلفة.

• يكمن اكتشاف الصور المصطنعة أو شبكات الحسابات المنسقة غير الأصيلة في جوهره في التعرف على الأنماط، وهو ما يمكن معالجته باستخدام أدوات التعلم الآلي المصممة لهذا الغرض، مثل العلامات المائية الرقمية، وبصمات المحتوى، وتحليل الأنماط السلوكية.

• أما التحقق من صحة الادعاءات، فهو مسألة معرفية تتطلب الوصول إلى الأدلة، وتقييم موثوقية المصادر، وممارسة الحكم التحريري لتحديد مدى صحة المعلومات. ولم تُصمم نماذج اللغة الكبيرة (LLMs) لهذا النوع من المهام، كما أن ميلها إلى إنتاج معلومات غير دقيقة بصياغة مقنعة يجعل الاعتماد عليها كمدقق للحقائق أمرًا محفوفًا بالمخاطر.

وتبرز القيمة الحقيقية لنماذج اللغة الكبيرة وأدوات الذكاء الاصطناعي المشابهة في المهام التي لا تعتمد على معرفة خارجية، بل تركز على تنظيم المعلومات وتحويلها، مثل التصنيف، والتجميع، والتلخيص، وإعادة الصياغة. فهذه الأدوات لا تحكم على صحة المعلومات، وإنما تعيد تنظيمها بطريقة تجعل التعامل معها أكثر كفاءة.

ويشارك موقع Maldita.es، على سبيل المثال، في المشروع الأوروبي Prebunking At Scale، الذي يستخدم نماذج اللغة الكبيرة لمعالجة آلاف الادعاءات الواردة في مقاطع الفيديو القصيرة المنشورة على TikTok وYouTube وInstagram. وتُصنف هذه الادعاءات ضمن خمس فئات رئيسية: الصحة، والنزاعات، والاتحاد الأوروبي، والهجرة، والمناخ.

وعندما تتمكن أداة ذكاء اصطناعي من معالجة عشرة آلاف منشور على منصات التواصل الاجتماعي وتصنيفها تلقائيًا، فإنها تقدم قيمة عملية حقيقية؛ إذ تحول البيانات غير المنظمة إلى بياناتٍ منظمة يمكن للمحللين العمل عليها. فهي لا تؤكد صحة الادعاءات أو تنفيها، وإنما تجعل عملية التحقق أكثر كفاءة وتنظيمًا.

والخلاصة العملية واضحة: تحقق أدوات الذكاء الاصطناعي أفضل نتائجها عندما تؤدي دور المساعد التحليلي، لا البديل عن متخذ القرار. فهي تنظم البيانات، وتربط بينها، وتيسر تحليلها، أما ما يتجاوز ذلك فيجب التعامل معه بحذر، سواء ورد ضمن عروض الشركات المطورة أو أُدرج في سير العمل داخل غرف الأخبار.

بناء منظومة متكاملة للرصد: البيانات، والذاكرة، والبيانات غير المنظمة

لا يكمن التحدي الأساسي في أنظمة الرصد المدعومة بالذكاء الاصطناعي في التحليل ذاته، بل في البنية التي يستند إليها النظام. فقبل أن تتمكن الأداة من اكتشاف الأنماط أو تجميع السرديات، تحتاج إلى تدفق موثوق للبيانات، وبنية تحفظ ما تجمعه وتربط عناصره، وآلية لإدارة الكم الكبير من البيانات غير المنظمة التي تُعد سمة أساسية لأي نظام رصد واسع النطاق.

1. مصادر البيانات

تمثل مصادر البيانات نقطة الانطلاق، لكنها تنطوي على مفاضلات تؤثر في جميع المراحل اللاحقة.

توفر واجهات برمجة التطبيقات (APIs) الخاصة بالمنصات كميات هائلة من المحتوى، لكنها تعاني انخفاض نسبة الإشارة إلى الضوضاء، لأن كثيرًا من المحتوى المتاح لا يكون ذا صلة، فضلًا عن أن المنصات قد تستبعد المحتوى الأكثر حساسية قبل وصوله إلى الباحثين، كما أن شروط الوصول إلى هذه الواجهات تتغير باستمرار، وغالبًا ما تكون تكلفتها مرتفعة.

وفي المقابل، ينتج عن مساهمات المستخدمين، مثل خطوط الإبلاغ، وأدوات التبليغ، وقنوات واتساب، بيانات أكثر ارتباطًا بالسياق وأعلى جودة، لكنها تظل محدودة التغطية وتعتمد على مستوى مشاركة المجتمع.

أما الرصد الذي يقوده الخبراء، فيوفر بيانات أكثر موثوقية وثراءً بالسياق، إلا أنه يتطلب موارد كبيرة، ولا يمكن توسيعه بسهولة لمواكبة بيئات معلوماتية واسعة ومتغيرة باستمرار.

ومن الأمثلة على ذلك قاعدة بيانات Iberifier التي طورتها Maldita.es، والتي تتيح لمنظمات التحقق من الحقائق في دول متعددة مشاركة نتائجها وربطها ضمن بنية رقمية واحدة.

ولهذا تعتمد معظم أنظمة الرصد على مزيج من هذه المصادر الثلاثة، ويحدد هذا المزيج نقاط القوة والقيود التي يتميز بها كل نظام.

2. التخزين والذاكرة

يُعد التخزين والذاكرة من أهم مكونات أنظمة الرصد، رغم أنهما لا يحظيان غالبًا بالاهتمام الكافي. فقاعدة البيانات التي تحتفظ بالمحتوى الذي سبق تحليله لا تؤدي دور الأرشفة فحسب، بل تجعل عملية التحليل تراكمية.

فعند ظهور ادعاء جديد، يمكن مقارنته بما سبق تخزينه، ليس فقط لتجنب تكرار العمل، وإنما أيضًا لقياس مدى تكراره، وتتبع انتشاره عبر الزمن، وفهم تطور السردية التي ينتمي إليها.

وتُعد هذه الفكرة محورًا أساسيًا في خدمة المساعدة عبر واتساب التي تستخدمها Maldita.es في تنظيم عمليات الرصد. إذ تتحول البيانات الوصفية المرتبطة بكل عنصر، مثل منصة النشر، وتاريخ ظهوره، والحسابات المرتبطة به، وسجل تكراره، إلى مادة أساسية تدعم التحقيقات اللاحقة.

ومن دون هذه الذاكرة المؤسسية، يصبح الرصد مقتصرًا على متابعة ما يحدث في اللحظة الراهنة، دون القدرة على ربطه بما سبق أو فهم تطور السرديات عبر الزمن.

3. إدارة البيانات غير المنظمة

من المهم إدراك أنه لا يوجد نظام رصد قادر على التخلص من التشويش بصورة كاملة. فوجود البيانات غير المرتبطة أو غير الدقيقة ليس خللًا يمكن القضاء عليه نهائيًا، بل سمة طبيعية لأي نظام يعتمد على مصادر بيانات واسعة، وخاصة عند استخدام واجهات برمجة التطبيقات الخاصة بالمنصات أو تنفيذ بعض عمليات التصنيف بصورة آلية.

ولهذا تعتمد الأنظمة الفعالة على حلول تحد من أثر هذا التشويش، مثل إخضاع المحتوى المصنف آليًا لمراجعة تحريرية قبل استخدامه في المخرجات النهائية، أو الاستفادة من قواعد المعرفة الخارجية، مثل Wikidata، للمساعدة في التمييز بين الكلمات المتشابهة، وفك الإشارات الغامضة، وتجنب الخلط بين الأشخاص أو الجهات أو الأحداث المختلفة.

ولا يتمثل الهدف في بناء نظام خالٍ تمامًا من التشويش، وإنما في إنشاء نظام يستطيع إدارة هذا التشويش بفاعلية، بحيث تبقى الإشارات المهمة واضحة وقابلة للتحليل.

من الادعاءات المنفردة إلى السرديات الرئيسة

تمثل الادعاءات الكاذبة أو المضللة أعراضًا لمشكلة أكبر، بينما تكمن المشكلة الحقيقية في السرديات التي تمنح تلك الادعاءات معناها واستمرارها. فالسردية هي الإطار الفكري الذي يربط بين عدد كبير من الادعاءات المتفرقة، ويمنحها قوة تأثير تتجاوز تأثير كل ادعاء على حدة.

فعلى سبيل المثال، رصد فريق Maldita.es في البداية مجموعة من الادعاءات التي استندت إلى مقال تناول زيادة حجم الجليد في أحد الجروف الجليدية في القارة القطبية الجنوبية خلال الفترة بين عامي 2009 و2019.

لكن التهديدات التي تستهدف سلامة المعلومات لا تنتقل عادةً من خلال ادعاء واحد منفصل، وإنما عبر سلسلة من التصريحات التي تبدو متماسكة، وتشكل معًا رؤية متكاملة للعالم، تحدد المسؤول عن المشكلات، وتفسر السياسات، وتعيد تأويل الأحداث التاريخية.

وفي وقت لاحق من العام نفسه، لاحظ فريق التحرير انتشار منشورات تزعم أن آل غور أخفق في توقع ذوبان الغطاء الجليدي بحلول عام 2014. وقد يكون كل ادعاء في هذه السلسلة قابلًا للنقاش أو مبالغًا فيه أو خارجًا عن سياقه، إلا أن تأثيرها التراكمي في تشكيل قناعات الجمهور قد يكون بالغًا.

ولهذا فإن أنظمة الرصد التي تتعامل مع كل ادعاء بمعزل عن غيره تركز على معالجة الأعراض، بينما تغفل البنية الفكرية الأعمق التي تنتج تلك الادعاءات وتمنحها الاستمرار.

يساعد دمج قواعد بيانات المحتوى مع نماذج اللغة الكبيرة على الانتقال من تحليل الادعاءات المنفردة إلى تحليل السرديات. وتتمثل أبرز قدرات هذه النماذج في تجميع الادعاءات التي تستند إلى الإطار الفكري نفسه، حتى وإن اختلفت صياغتها أو الأشخاص أو الجهات المرتبطة بها أو السياقات التي وردت فيها.

وتتجاوز هذه القدرة أحد أبرز القيود التي يواجهها التحليل البشري، إذ لا يستطيع أي فريق من المحللين استيعاب آلاف الادعاءات في الوقت نفسه، وربط العلاقات بينها، وتتبع تطورها عبر الزمن والمناطق الجغرافية المختلفة.

ويتيح التصنيف والتجميع المدعومان بالذكاء الاصطناعي توسيع القدرات التحليلية، وهو ما مكّن فريق Maldita.es من رصد سردية تشكك في أزمة المناخ من خلال مجموعة كبيرة من الادعاءات المرتبطة بحجم الغطاء الجليدي، رغم اختلاف تفاصيل كل ادعاء على حدة.

كما يسهم التعرف على السرديات المتكررة في كشف أنماط ذات قيمة استقصائية تتجاوز أي مادة صحفية منفردة. فعندما يظهر الإطار السردي نفسه في مناطق جغرافية متعددة خلال فترة زمنية قصيرة، فإن ذلك قد يشير إلى حملة منظمة تستحق مزيدًا من التحقيق.

ولا تنتشر السرديات عادة بصورة عشوائية، بل تقف خلفها في كثير من الأحيان جهات تسعى إلى ترسيخ تفسير معين للأحداث. وعندما يُرصد هذا التكرار بطريقة منهجية، يصبح من الممكن تتبع مصادره ومسارات انتشاره.

ولهذا الغرض، تنسق Maldita.es قاعدة بيانات للادعاءات بدعم من الصندوق الوطني للديمقراطية، بما يتيح لمنظمات التحقق من الحقائق في أمريكا اللاتينية وأوروبا الشرقية مشاركة البيانات ورصد حملات التضليل، بما في ذلك العمليات المرتبطة بحملات التضليل الروسية.

تحويل نتائج الرصد إلى عمل فعلي

لا يحقق التحليل أي أثر إذا ظل حبيس قواعد البيانات. ولذلك يتمثل آخر التحديات، وربما أهمها، في تحويل نتائج الرصد المدعوم بالذكاء الاصطناعي إلى مخرجات عملية تستطيع المؤسسات الاستفادة منها، مع مراعاة اختلاف احتياجات كل فئة من المستخدمين.

فالباحثون يحتاجون غالبًا إلى بيانات خام قابلة للتصدير، مثل ملفات CSV التي تتضمن بيانات وصفية كاملة يمكن فرزها بحسب التاريخ أو المنصة أو الموضوع، ليتمكنوا من دمجها في أدوات التحليل الخاصة بهم.

أما غرف الأخبار، فتفضل لوحات معلومات تفاعلية تعرض الاتجاهات الناشئة، وتنبيهات قابلة للتخصيص ترصد الارتفاع المفاجئ في تداول موضوعات معينة، إضافة إلى واجهات سهلة الاستخدام تتيح للصحفيين استكشاف البيانات دون الحاجة إلى كتابة استعلامات تقنية.

وفي المقابل، قد تحتاج منظمات القطاع غير الربحي التي تعمل في مجال التوعية والتواصل المجتمعي إلى أدوات مختلفة تمامًا. ولهذا فإن أي نظام للرصد لا يُصمم انطلاقًا من احتياجات مستخدميه الفعليين لن يحقق الاستفادة المرجوة، مهما بلغت جودة التحليل الذي يقدمه.

وتتطلب أنظمة الرصد التي تعتمد على تدفقات بيانات مستمرة صيانة دائمة، بخلاف مشروعات التحليل التي تُنفذ مرة واحدة. فهي تتعامل مع بيانات تتغير باستمرار، مما يستلزم تحديث تصنيفات الموضوعات مع تطور البيئة المعلوماتية، ومراقبة أداء نماذج الذكاء الاصطناعي لاكتشاف أي انحرافات، وإعادة ضبطها مع تغير أنماط اللغة، إضافة إلى إدارة الموارد اللازمة لتشغيل عمليات التحليل المستمرة على نطاق واسع.

ولا تُعد هذه المهام تحديات مرتبطة بمرحلة الإطلاق فحسب، بل مسؤوليات تشغيلية مستمرة تضمن بقاء النظام فعالًا على المدى الطويل.

وتتمثل القيمة الحقيقية والأكثر استدامة لنظام الرصد المصمم بكفاءة في الذاكرة المؤسسية التي يبنيها، وفي تكامله مع سير العمل اليومي داخل المؤسسة، أكثر من أي تقرير أو تحقيق أو لوحة معلومات ينتجها.

فالمؤسسات التي دمجت أدوات الرصد في عملياتها التحريرية، واعتمدت على المعلومات التي توفرها هذه الأنظمة في اتخاذ قراراتها، أصبحت أكثر قدرة على الاستجابة السريعة للتهديدات الناشئة، وأكثر اعتمادًا على الأدلة، وأعمق فهمًا لتطور السرديات التي تتابعها.

ومع مرور الوقت، تصبح المعرفة المتراكمة داخل نظام رصد مُدار بكفاءة ميزة استراتيجية تمنح المؤسسة قدرة أكبر على فهم البيئة المعلوماتية والتعامل مع تحدياتها المتغيرة.

ما رأيكم؟

ما رأيكم في هذا المقال؟ خصصوا 30 ثانية لمشاركة آرائكم ومساعدتنا في تطوير محتوى أكثر قيمة لمنظمات القطاع غير الربحي.

شاركنا رأيك

إخلاء المسؤولية

أُعد هذا المورد ضمن مشروع الذكاء الاصطناعي من أجل التغيير الاجتماعي، التابع لـبرنامج النشاط الرقمي في TechSoup، وبدعم من Google.org.

استُخدمت أدوات الذكاء الاصطناعي في إعداد هذا المحتوى، إلا أن المؤلف وفريق TechSoup تولوا كتابة المقال ومراجعته وتحريره بالكامل.

تتطور أدوات الذكاء الاصطناعي بوتيرة متسارعة، ورغم حرصنا على تقديم معلومات دقيقة ومحدثة، فقد تصبح بعض المعلومات غير محدثة مع مرور الوقت. وإذا لاحظتم أي معلومة تحتاج إلى تحديث، فيُرجى التواصل معنا عبر البريد الإلكتروني: contact@hive-mind.community