لماذا لا تستطيع كبرى شركات التكنولوجيا مواجهة خطابات الكراهية عبر الإنترنت بمفردها؟

قد يكون من الصعب تحديد الكراهية عبر الإنترنت، نظرًا لأشكالها الجديدة والمعقدة.

بالإضافة إلى أنه يجب على شركات التكنولوجيا تجاوز اكتشاف المحتوى المسيء والتشهيري والاعتدال فيه لحماية المجتمعات المتأثرة.

وهناك حاجة إلى مزيد من التمويل التحفيزي لتسريع تقنيات المرحلة المبكرة التي تعد بمكافحة المعلومات المضللة والكراهية والتطرف بطرق جديدة.

فيروس كورونا هو أحدث مثال على خطابات الكراهية، حيث غذى الوباء موجة عالمية من الوصم الاجتماعي والتمييز ضد "الآخر".

من ناحية أخرى، كشفت دراسة أجرتها جامعة أكسفورد أن حوالي 20% من البالغين البريطانيين يؤيدون عبارات مثل "اليهود خلقوا الفيروس لانهيار الاقتصاد وتحقيق مكاسب مالية" أو "ينشر المسلمون الفيروس باعتباره هجومًا على القيم الغربية".

والإنترنت هو المكان الذي يمكن أن تصبح فيه هذه المعتقدات سائدة، كمركز جديد لحياتنا العامة والخاصة، سهّل العالم الرقمي تفاعلات بلا حدود ومجهولة كان يعتقد أنها مستحيلة منذ جيل مضى.

على نحو متصل، فقد وفر الإنترنت أيضًا وسيلة لنشر وتضخيم المعلومات الكاذبة والكراهية، وشركات التكنولوجيا تعرف ذلك.

وفي عام 2018، اعترف موقع فيسبوك أن منصته استُخدمت لتأجيج التوترات العرقية والدينية ضد الروهينجا في ميانمار.

 

ومع استمرار ضبابية الخطوط الفاصلة بين الإنترنت وخارجه، تقع على عاتقنا مسؤولية هائلة وهي ضمان مساحة رقمية آمنة للجميع.

وتكمن الفرصة في نشر التمويل المحفز للتقنيات المبتكرة التي تكافح التضليل والكراهية والتطرف بطرق جديدة.

 

حتى لو احتوت 1% فقط من التغريدات على كلام مسيء أو بغيض، فإنه يعادل 5 ملايين رسالة يوميًا.

وليس من الصعب تخيل عواقب مثل هذه الانتشار - حصار الكابيتول في 6 يناير يوضح بشكل مؤلم كيف يمكن لوسائل التواصل الاجتماعي أن تحرض على العنف بهذه السرعة.

ولكن العقبة لا تكمن في كيفية تمييز المحتوى التشهيري، ولكن في كيفية فحص الأنظمة الأساسية بدقة وعلى نطاق واسع.

ويوفر Instagram للمستخدمين خيار تصفية التعليقات المسيئة.

واستحوذ Twitter على Fabula AI لتحسين صحة المحادثات عبر الإنترنت. وقد ذهب TikTok و Facebook إلى حد إنشاء مجالس استشارية للسلامة أو مجالس إشراف يمكنها تحديد المحتوى الذي يجب إزالته.

ومع هذه الجهود، فشلت شركات التكنولوجيا في اكتشاف وتعديل المحتوى الزائف أو المسيء أو البغيض الذي يعتمد إلى حد كبير على السياق والثقافة واللغة.

حيث أن الكراهية عبر الإنترنت تتطور باستمرار في شكلها وشكلها لدرجة أنه يصبح من الصعب بشكل متزايد الكشف عنها.