لكن المحتوى المصطنع ليس سوى جزء من المشكلة. فالتحولات التي أحدثها الذكاء الاصطناعي أتاحت أيضًا فرصًا جديدة لنشر المحتوى آليًا من خلال السلوك المنسّق غير الأصيل. وبذلك أصبح الخداع واسع النطاق باستخدام الحسابات الآلية متاحًا لجهات أكثر، فيما تمكّنت الجهات التي تمارس هذا النشاط أصلًا من الاستفادة إلى أقصى حد من مهاراتها المتقدمة في التلاعب بالجمهور.
وإلى جانب دور الذكاء الاصطناعي في تسهيل الوصول إلى هذه الأدوات، فإن الأهم من ذلك أن الشركات المشغّلة لأشهر منصات التواصل الاجتماعي أسهمت بدورها في انتشار تهديدات سلامة المعلومات على منصاتها. ففي منظومة تحدد فيها الخوارزميات المصممة لزيادة التفاعل مدى ظهور المحتوى الذي ينشئه المستخدمون، تكافئ شركات التكنولوجيا الكبرى باستمرار، وبطرق متعددة، أنواع المحتوى الأكثر عرضة لأن تكون غير صحيحة. يستعرض هذا المقال تهديدات الذكاء الاصطناعي لسلامة المعلومات، ومنها مقاطع التزييف العميق على TikTok وعمليات الاحتيال على المستهلكين عبر Meta، ويختتم بتقييم الأثر الفعلي لجهود منظمات القطاع غير الربحي (CSOs) في التصدي لهذه الظاهرة.
الذكاء الاصطناعي والتربّح: كيف يموّل TikTok الهجمات على سلامة المعلومات
لا يفعل الجميع ذلك من أجل المال، لكن هذا هو دافع كثيرين ممن يكرّسون حياتهم لإنتاج الأكاذيب ونشرها على الإنترنت. يمثّل هؤلاء «المبدعون» أحد أطراف المثلث الذي يقوم عليه اقتصاد الانتباه؛ فهم ينتجون محتوى شديد الجاذبية، وصادمًا ومبالغًا فيه إلى درجة أنه غالبًا ما يكون ملفّقًا. وكلما ازداد تفاعل الجمهور مع هذا المحتوى، ازدادت المكافآت التي يتلقونها من الطرفين الآخرين في هذا المثلث: المستخدمين والمنصات.
بالنسبة إلى المستخدمين، تشبه المعلومات المضللة غيرها من القصص الخيالية الجذابة؛ فهي مفاجئة ومثيرة وتستفز الغضب. لكن الخداع المتعمّد الذي تنطوي عليه هو ما يجعلها خطيرة، إذ يسهل استدراج الجمهور إليها. ويُعدّ الذكاء الاصطناعي أداة مثالية لمن يروّجون باستمرار قصصًا كاذبة ومثيرة؛ فهم يعرفون أصلًا ما يجذب الانتباه على الإنترنت، ويمنحهم الذكاء الاصطناعي القدرة على إنتاج رسائلهم ونشرها بسرعة وكفاءة أكبر، وبجودة تقنية تجعلها غير قابلة للتمييز عن المحتوى الحقيقي.
أما المنصات فتكافئ، من جانبها، كل محتوى تصنّفه على أنه قادر على جذب التفاعل، وتزيد من ظهوره. وهذا ما يُعرف بـ«التضخيم الخوارزمي»: كلما تفاعل المستخدمون مع محتوى ما، زاد ميل الخوارزمية إلى عرضه على عدد أكبر من المستخدمين. والسبب أن المصلحة التجارية للمنصة تقتضي أن يقضي المستخدمون وقتًا أطول في استخدامها. ولهذا أيضًا تكافئ المنصات المستخدمين الذين ينتجون هذا النوع من المحتوى تحديدًا.
قبل بضعة أشهر، بدأنا في مؤسسة Fundación Maldita.es نلاحظ أمرًا غريبًا: مقاطع فيديو مولّدة بالذكاء الاصطناعي، شديدة الواقعية، تُظهر احتجاجات سياسية وتنتشر في خلاصات TikTok حول العالم. أثار ذلك فضولنا، وتوصّلنا في النهاية إلى قائمة تضم 550 حسابًا نشرت أكثر من 5,800 مقطع عن 18 دولة مختلفة. وحصدت هذه المقاطع أكثر من 89 مليون مشاهدة. لكن الجانب الأكثر إثارة للاهتمام ظهر حين تحدثنا مباشرةً مع بعض القائمين على هذه الحسابات.
لم يبدُ عليهم أي شعور بالذنب إزاء تضليل الناس، لكنهم أوضحوا أمرًا أكثر أهمية: لم تكن لديهم أي أجندة سياسية. كان هدفهم الوحيد أن تبلغ حساباتهم، وغالبًا ما يديرون عدة حسابات في الوقت نفسه، عتبة 10,000 متابع. فهذا هو العدد المطلوب للتأهل لبرنامج «مكافآت المبدعين» الذي يدفع TikTok من خلاله للمؤثرين. وكانت المعلومات المضللة السياسية مجرد وسيلة لتحقيق هذا الهدف؛ إذ اكتشفوا بالتجربة والخطأ أن خوارزمية TikTok لا تضخّم أي محتوى بقدر ما تضخّم هذا النوع. وقد جرّب من تحدثنا معهم محتوى آخر، مثل الحيوانات الأليفة والأطفال وغير ذلك. لكن المحتوى السياسي الكاذب الذي يستثير المشاعر كان الأنجح في سعيهم إلى الوصول إلى 10,000 متابع.
في جوهر الأمر، تتلاقى المصالح المالية لـTikTok وهؤلاء المستخدمين. فالمحتوى المشحون بالعاطفة أو شديد الإثارة يجذب الانتباه، والانتباه يدرّ المال: يجني المبدعون أرباحًا من خلال برنامج تحقيق الربح في TikTok، بينما تستفيد المنصة من المحتوى الذي يُبقي المستخدمين فيها مدة أطول، ويدفعهم، مثلًا، إلى النقر على الإعلانات. ولا يفعل الذكاء الاصطناعي سوى تسهيل هذه العملية برمّتها. وتحظر سياسات TikTok المحتوى المولّد بالذكاء الاصطناعي الذي يكون «مضللًا بشأن مسائل ذات أهمية عامة»، لكن هذه السياسات لا تُطبّق ببساطة.
الذكاء الاصطناعي وسلامة المعلومات: أنظمة غير موثوقة
لا تقتصر الحوافز المالية التي تقدمها كبرى المنصات الرقمية على برامج مكافآت المبدعين. فقد أعطى الذكاء الاصطناعي أيضًا دفعة كبيرة لصناعة الاحتيال المزدهرة أصلًا في معظم هذه الفضاءات الرقمية؛ إذ أصبحت المنتجات المزيّفة تبدو أكثر واقعية، وبات إنتاجها أسهل من أي وقت مضى، وأصبح انتحال هوية العلامات التجارية والمتاجر بصورة مقنعة متاحًا بنقرة واحدة. أما المنصات التي تقع عليها هذه العمليات الاحتيالية، فهي ببساطة غير مستعدة لمواجهة هذا النوع من التحديات.
نعثر بانتظام في مؤسسة Fundación Maldita.es على شبكات ضخمة مكرّسة للاحتيال على المستهلكين عبر المنصات الكبرى. وقد وثّقنا مؤخرًا كيف نشر 170 حسابًا على Meta، يُفترض أنها «موثّقة»، أكثر من 67,000 عملية احتيال مختلفة خلال ثلاثة أشهر، في أوروبا وحدها. وكانت الحسابات التي تروّج لهذه العمليات قد سُرقت من أصحابها الشرعيين عن طريق الاختراق، أو، وهو الأسوأ، جرى «توثيقها» على أنها الحسابات الحقيقية لشخصيات عامة لا علاقة لها بها إطلاقًا.
ومرة أخرى، كانت لدى Meta سياسات سارية كان يُفترض أن تمنع ذلك، لكنها لم تُطبّق، كما حدث مع TikTok. ولا تقتصر المشكلة على هاتين المنصتين؛ فقد وثّقنا أيضًا كيف يموّل YouTube المعلومات المضللة عن المناخ بما يخالف سياساته، وكيف حصدت حملة احتيال ضخمة على X ما مجموعه 76 مليون ظهور. ولم يكن أيٌّ من مخططات التلاعب الناجحة هذه ممكنًا لولا استخدام الذكاء الاصطناعي.
الذكاء الاصطناعي والأثر الحقيقي
يفرض التوسع في تبنّي الذكاء الاصطناعي تحديات هائلة على سلامة المعلومات، لكن من الضروري أيضًا استخدام أدواته للتصدي لهذه التحديات وتوثيق الأضرار الناجمة عنها. كذلك يحتاج الأفراد والمنظمات الساعون إلى تعزيز المساءلة إلى تغيير طريقة تفكيرهم، والانتقال من مجرد «كشف» التجاوزات التي سهّلها الذكاء الاصطناعي إلى إيجاد سبل لمعالجتها فعليًا.
ومع تراجع معظم شركات التكنولوجيا العالمية عن مسؤوليتها الاجتماعية، يتعيّن على الباحثين في الأضرار المرتبطة بالإنترنت والمدافعين عن الحدّ منها أن يدرسوا بعناية الاستراتيجيات الأقدر على تحسين أوضاع المستخدمين فعليًا: الرقابة التنظيمية، أو التقاضي الاستراتيجي، أو حملات الضغط العام، أو تطوير أدوات وفضاءات رقمية بديلة.
هذا هو المسار الذي سلكته مؤسسة Fundación Maldita.es. ففي جميع التحقيقات المذكورة في هذا المقال، وثّقنا بدقة كل الأدلة المتاحة. ولم يكن هدفنا تقديم أمثلة على الممارسات غير السليمة لقرّاء تحليلاتنا فحسب، بل بناء مجموعات بيانات متسقة يمكن أن تستوفي معايير الإثبات أمام المحاكم، أو توفّر أساسًا متينًا للإجراءات التنظيمية.
تعلّمنا أن «أثر» تحقيقاتنا في عصر الذكاء الاصطناعي لا يُقاس ببساطة بعدد المستخدمين المتفاعلين معها، أو الإحالات إلى نتائجها، أو عدد الصحفيين الذين يتواصلون معنا لمتابعتها. بل يجب تقييم أثرنا، وأثر كل من يهتم ببيئة معلومات أكثر أمانًا، بمدى إسهامنا وإسهامهم في تغيير مواقف عدد محدود من شركات التكنولوجيا المهيمنة على أدوات الذكاء الاصطناعي، وقواعدها وإجراءاتها.
سيتعاون بعضهم مع السلطات الديمقراطية أو الجهات التنظيمية المستقلة، وسيستخدم آخرون الأدلة المستخلصة من التحقيقات لرفع الوعي العام وحشد المجتمعات للضغط على هذه الشركات. لكن أمرًا واحدًا واضح: في هذا العصر الجديد، لا يتحقق الأثر الحقيقي بالنقد وحده، بل ببناء استراتيجية للتغيير أيضًا.
ويمكن لمنظمات القطاع غير الربحي، بالاستفادة من منصاتها وخبراتها، أن تدافع عن هذا التغيير وتضغط على منصات التواصل الاجتماعي، مثل TikTok وMeta، لتعديل استراتيجياتها تجاه مقاطع التزييف العميق المولّدة بالذكاء الاصطناعي، وكذلك سياساتها المتعلقة بالمكافآت والإعلانات الكاذبة.
رأيك يهمّنا
ما رأيك في هذا النص؟ خصّص 30 ثانية لمشاركة ملاحظاتك، وساعدنا على إعداد محتوى مفيد للقطاع غير الربحي!
هل ترغب في الاطّلاع على مزيد من التقارير؟ ألقِ نظرة!
عن الكاتب
كارلوس هرنانديز-إتشيفاريا منسّق السياسات في مؤسسة Fundación Maldita وصحفي يتمتع بخبرة تمتد إلى 15 عامًا في العمل التلفزيوني، شغل خلالها أدوار المراسل والمراسل الميداني ومدير البرامج. وهو عضو في فرقة العمل الدائمة التابعة لمدونة قواعد الممارسات بشأن التضليل الإعلامي (Code of Practice on Disinformation)، وفريق العمل المعني بالتضليل الإعلامي التابع لـEDMO. يحمل شهادة في الصحافة من جامعة سان بابلو CEU، ودرجة الماجستير في إدارة الانتخابات والحملات من جامعة فوردهام، حيث درس ضمن برنامج فولبرايت للزمالات.
إخلاء المسؤولية
أُعدّ هذا المورد ضمن مشروع الذكاء الاصطناعي من أجل التغيير الاجتماعي، في إطار برنامج النشاط الرقمي التابع لـTechSoup، وبدعم من Google.org.
تتطور أدوات الذكاء الاصطناعي بسرعة. ورغم أننا نبذل قصارى جهدنا لضمان صحة المحتوى الذي نقدّمه، فقد تصبح بعض المعلومات غير محدّثة. إذا لاحظت معلومة لم تعد مواكبة للمستجدات، فيُرجى إبلاغنا عبر content@techsoup.org.
أعدّ كارلوس هرنانديز-إتشيفاريا هذا المحتوى وراجعه وحرّره، بمساعدة الذكاء الاصطناعي.
