دراسة: في 23 دقيقة.. خوارزميات تقود المراهقين إلى كراهية النساء
كشفت دراسة حديثة أجراها مركز مكافحة التنمر التابع لجامعة مدينة دبلن (DCU) في أيرلندا، أن المراهقين الفتيان قد يتعرضون خلال دقائق من إنشاء حسابات جديدة على منصات التواصل الاجتماعي لمحتوى معادٍ للنساء وللحركة النسوية، إلى جانب محتوى متطرف آخر، بفعل خوارزميات التوصية التي تعمل على تضخيم هذا النوع من المحتوى.
وتتبعت الدراسة المحتوى الذي أوصت به منصتا “تيك توك” و”يوتيوب شورتس” لحسابات تجريبية صُممت لمحاكاة سلوك فتيان تتراوح أعمارهم بين 16 و18 عامًا، باستخدام هواتف ذكية جديدة وحسابات لم يسبق استخدامها.
وأنشأ الباحثون 10 حسابات تجريبية، خمسة منها على “تيك توك” وخمسة على “يوتيوب شورتس”. ولم تبحث الحسابات عمدًا عن محتوى معادٍ للنساء أو مرتبط بما يعرف بـ«المانوسفير»، وإنما اكتفى الباحثون/ات بالتمرير عبر مقاطع الفيديو التي أوصت بها المنصات تلقائيًا.
و”المانوسفير” هو فضاء رقمي يضم مجموعة غير مترابطة من المجتمعات والمدونات والمنتديات والمؤثرين الذين يركزون على قضايا الرجال، ويُروّج بعض أطرافها لأفكار مناهضة للنسوية ومواقف معادية للنساء.
View this post on Instagram
المحتوى المعادي خلال 23 دقيقة
وجد الباحثون/ت أن جميع الحسابات التجريبية تلقت محتوى ذكوريًا ومعاديًا للنساء ومحتوى متطرفًا آخر خلال أول 23 دقيقة من التجربة، سواء بدأت بمشاهدة محتوى عام أو محتوى مرتبط بتفوق الذكور.
وبعد مرور ساعتين إلى ثلاث ساعات من المشاهدة، بلغت نسبة التوصيات المعادية للنساء 76% على “تيك توك” و78% على “يوتيوب شورتس”.
وكان المؤثر البريطاني أندرو تيت من أبرز الشخصيات التي ظهرت في مقاطع الفيديو الموصى بها.
وخلصت الدراسة، التي أجرتها البروفيسورة ديبي جينغ، والدكتورة كاثرين بيكر، والدكتورة مايا أندرياسن، إلى أنه بمجرد إبداء الحسابات اهتمامًا بمشاهدة هذا النوع من المحتوى، زاد حجم المحتوى الموصى به منها بسرعة.
وقالت البروفيسورة ديبي جينغ إن نتائج الدراسة تشير إلى أن إغلاق حسابات المؤثرين لا يؤدي بالضرورة إلى إزالة المحتوى المرتبط بهم.
وأضافت: “إن الوجود الساحق لمحتوى أندرو تيت في مجموعة بياناتنا في الوقت الذي تم فيه حظره من المنصة يعني أن شركات وسائل التواصل الاجتماعي يجب أن تتعامل مع المحتوى الضار بطرق أكثر تطورًا.”
انتقادات برلمانية لشركات التواصل
وتأتي نتائج الدراسة في أعقاب انتقادات حادة وُجّهت إلى شركات التواصل الاجتماعي خلال اجتماع للجنة الأطفال /ات في البرلمان الأيرلندي “أويراكتاس”، حيث اتُّهمت الشركات بالتسبب في “ضرر لا يمكن قياسه” من خلال الترويج لمحتوى غير ملائم وخطير بين الشباب/ات.
وشارك في الاجتماع ممثلون/ات عن شركات “ميتا” و”تيك توك” و”إكس.”
وقال مايكل كريد، النائب عن حزب “فاين غايل” عن دائرة كورك، إن على المشرعين أن يكونوا “أكثر صرامة بكثير، بكثي” في التعامل مع وصول القاصرين إلى منصات التواصل الاجتماعي.
View this post on Instagram
وفي الوقت الذي تسعى فيه شركات التواصل الاجتماعي إلى تسليط الضوء على إغلاق ملايين الحسابات الخاصة بالقاصرين/ات، قال كريد إنه لا ينبغي للقاصرين/ات أن يتمكنوا من الوصول إلى وسائل التواصل الاجتماعي من الأساس.
وأضاف: “الدولة لا تمنح رخص القيادة لمن هم في سن 12 أو 13 عامًا. فلماذا نقبل بوضع تسمح فيه شركة تواصل اجتماعي بالقول: “حسنًا، لقد أخبروني أنهم في سن 13 أو 16 عامًا”؟”
كما أعرب السناتور مالكولم بيرن عن عدم اقتناعه بفعالية استخدام الذكاء الاصطناعي في الكشف عن المحتوى غير الملائم، بما في ذلك المواد المتطرفة أو العنيفة، مؤكدًا: “مهما فعلتم، فلن تنجحوا.”
من جانبها، وصفت السناتورة إيرين ماكغريهان، من حزب “فيانا فيل”، جزءًا كبيرًا من وسائل التواصل الاجتماعي بأنه “بالوعة”، وليس مكانًا آمنًا للأطفال/ات.
المنصات ترد
وقالت سوزان موس، رئيسة قسم السياسات العامة في “تيك توك”، إن السلامة تمثل أولوية أساسية للشركة، مشيرة إلى أن لديها أكثر من 40 ألف متخصص في مجال “الثقة والسلامة” يعملون على حماية المستخدمين/ات عبر الإنترنت.
من جانبه، قال دوالتا أو بروين، رئيس قسم السياسات العامة لشركة “ميتا” في أيرلندا، إن الطريقة الأكثر كفاءة وفعالية للتصدي لوصول القاصرين إلى المنصات تتمثل في وجود نظام للتحقق من العمر على مستوى نظام التشغيل أو متجر التطبيقات.
وأضاف: “هذا لا يعفي أي تطبيق من مسؤولية وضع إجراءات فعالة لإدارة مسألة العمر”.