خوارزميات قاتلة.. تنديد عالمي بمحتوى الانتحار على تيك توك وإنستغرام
نيسان ـ نشر في 2025-08-22 الساعة 12:35
نيسان ـ اتهمت تقارير حديثة منصّتي تيك توك وإنستغرام باستهداف المراهقين بمحتوى خطير يتعلّق بالانتحار وإيذاء النفس، بمعدل يفوق ما كان عليه قبل عامين، الأمر الذي فجّر موجة من الجدل حول قدرة القوانين الحالية على حماية الأطفال والمراهقين من المحتوى المؤذي على مواقع التواصل الاجتماعي.
وكشفت مؤسسة "مولي روز"، التي أسسها إيان راسل بعد انتحار ابنته البالغة 14 عاماً في عام 2017، نتيجة تعرضها لمحتوى ضار عبر الإنترنت، أن الخوارزميات في كلا التطبيقين ما تزال توصي المستخدمين الصغار بكميات "مروعة" من المقاطع التي تتناول الانتحار والاكتئاب العميق وإيذاء النفس، خصوصاً لمن سبق أن تفاعل مع هذا النوع من المحتوى.
وأوضحت المؤسسة أن واحداً من كل عشرة منشورات خطيرة حظي بأكثر من مليون إعجاب، ما يعكس حجم الانتشار الواسع لهذه المواد.
ووصف راسل النتائج بأنها "مروعة"، مؤكداً أن الوضع ازداد سوءاً بدلاً من أن يتحسن رغم مرور ثماني سنوات على مأساة ابنته ورغم الإجراءات الحكومية والتنظيمية.
وانتقد تقاعس السلطات قائلاً إن "الأضرار التي كان يمكن منعها تماماً ما زالت تتكرر على مرأى من الجميع"، مطالباً بتشريعات أقوى وأكثر صرامة لوقف ما سماه "الإعصار الخفي" الذي تسببه المنصات للمراهقين.
وبحسب التحليل على مئات المنشورات بين نوفمبر (تشرين الثاني) 2024 ومارس (أذار) 2025، وُجد أن 97% من المقاطع المقترحة عبر Reels إنستغرام لحساب مراهقة تبلغ 15 عاماً تحمل طابعاً ضاراً، بينما تضمّن 44% منها إشارات مباشرة للانتحار أو إيذاء النفس.
أما تيك توك فاتهم بتقديم "تدفّق شبه متواصل" من المحتوى المؤذي، حيث ارتبط أكثر من نصف التوصيات (55%) بالانتحار والتحديات الخطيرة.
في المقابل، دافعت الشركتان عن سياساتهما؛ إذ أكدت ميتا أن لديها حسابات خاصة للمراهقين مزودة بآليات حماية تحد من تواصل الغرباء معهم وتضبط المحتوى الموصى به، بينما شددت تيك توك على أن لديها أكثر من 50 ميزة أمان للمراهقين وأن 99% من المواد المخالفة تُزال بشكل استباقي قبل الإبلاغ عنها.
غير أن خبراء ومؤسسات حقوقية رأوا أن تلك الإجراءات غير كافية، إذ تتيح المنصات في الوقت نفسه للمراهقين التفاعل إيجابياً مع المحتوى الضار، ما يؤدي إلى تكرار ظهوره لهم لفترات طويلة.
من جهته، وصف وزير التكنولوجيا البريطاني بيتر كايل الأرقام الأخيرة بأنها تكشف "واقعاً قاسياً"، مؤكداً أن قانون السلامة على الإنترنت الذي بدأ تطبيقه هذا العام يلزم الشركات بحماية الأطفال من المحتوى الأكثر خطورة، فيما أكدت هيئة Ofcom أنها ستتخذ إجراءات صارمة ضد أي شركة تخالف القواعد الجديدة.
ويأتي هذا الجدل في وقت حذّرت فيه تقارير أخرى من أن خوارزميات المنصات لا تقتصر على دفع محتوى الانتحار فقط، بل تساهم أيضاً في نشر مواد إباحية عنيفة أمام الأطفال في سن مبكرة، ما يسلّط الضوء على "الخطورة المرعبة" التي وصلت إليها البيئة الرقمية بالنسبة للأجيال الناشئة.
وكشفت مؤسسة "مولي روز"، التي أسسها إيان راسل بعد انتحار ابنته البالغة 14 عاماً في عام 2017، نتيجة تعرضها لمحتوى ضار عبر الإنترنت، أن الخوارزميات في كلا التطبيقين ما تزال توصي المستخدمين الصغار بكميات "مروعة" من المقاطع التي تتناول الانتحار والاكتئاب العميق وإيذاء النفس، خصوصاً لمن سبق أن تفاعل مع هذا النوع من المحتوى.
وأوضحت المؤسسة أن واحداً من كل عشرة منشورات خطيرة حظي بأكثر من مليون إعجاب، ما يعكس حجم الانتشار الواسع لهذه المواد.
ووصف راسل النتائج بأنها "مروعة"، مؤكداً أن الوضع ازداد سوءاً بدلاً من أن يتحسن رغم مرور ثماني سنوات على مأساة ابنته ورغم الإجراءات الحكومية والتنظيمية.
وانتقد تقاعس السلطات قائلاً إن "الأضرار التي كان يمكن منعها تماماً ما زالت تتكرر على مرأى من الجميع"، مطالباً بتشريعات أقوى وأكثر صرامة لوقف ما سماه "الإعصار الخفي" الذي تسببه المنصات للمراهقين.
وبحسب التحليل على مئات المنشورات بين نوفمبر (تشرين الثاني) 2024 ومارس (أذار) 2025، وُجد أن 97% من المقاطع المقترحة عبر Reels إنستغرام لحساب مراهقة تبلغ 15 عاماً تحمل طابعاً ضاراً، بينما تضمّن 44% منها إشارات مباشرة للانتحار أو إيذاء النفس.
أما تيك توك فاتهم بتقديم "تدفّق شبه متواصل" من المحتوى المؤذي، حيث ارتبط أكثر من نصف التوصيات (55%) بالانتحار والتحديات الخطيرة.
في المقابل، دافعت الشركتان عن سياساتهما؛ إذ أكدت ميتا أن لديها حسابات خاصة للمراهقين مزودة بآليات حماية تحد من تواصل الغرباء معهم وتضبط المحتوى الموصى به، بينما شددت تيك توك على أن لديها أكثر من 50 ميزة أمان للمراهقين وأن 99% من المواد المخالفة تُزال بشكل استباقي قبل الإبلاغ عنها.
غير أن خبراء ومؤسسات حقوقية رأوا أن تلك الإجراءات غير كافية، إذ تتيح المنصات في الوقت نفسه للمراهقين التفاعل إيجابياً مع المحتوى الضار، ما يؤدي إلى تكرار ظهوره لهم لفترات طويلة.
من جهته، وصف وزير التكنولوجيا البريطاني بيتر كايل الأرقام الأخيرة بأنها تكشف "واقعاً قاسياً"، مؤكداً أن قانون السلامة على الإنترنت الذي بدأ تطبيقه هذا العام يلزم الشركات بحماية الأطفال من المحتوى الأكثر خطورة، فيما أكدت هيئة Ofcom أنها ستتخذ إجراءات صارمة ضد أي شركة تخالف القواعد الجديدة.
ويأتي هذا الجدل في وقت حذّرت فيه تقارير أخرى من أن خوارزميات المنصات لا تقتصر على دفع محتوى الانتحار فقط، بل تساهم أيضاً في نشر مواد إباحية عنيفة أمام الأطفال في سن مبكرة، ما يسلّط الضوء على "الخطورة المرعبة" التي وصلت إليها البيئة الرقمية بالنسبة للأجيال الناشئة.
