एल्गोरिदम ने इंग्लैंड के खिलाड़ियों के खिलाफ नस्लीय दुर्व्यवहार फैलाने में कैसे मदद की?

नए शोध के अनुसार, विश्व कप के दौरान सोशल मीडिया पर इंग्लैंड के फुटबॉल खिलाड़ियों को निशाना बनाकर की गई नस्लीय गालियों को उन एल्गोरिदम द्वारा और बढ़ा दिया गया था जिन्हें जुड़ाव और लाभ को अधिकतम करने के लिए डिज़ाइन किया गया था।

आशा करें न कि घृणा करें X पर 300,000 से अधिक पोस्ट का विश्लेषण किया गया और इंग्लैंड के खिलाड़ियों को लक्षित करने वाली 5,500 से अधिक स्पष्ट रूप से नस्लवादी पोस्ट की पहचान की गई।

संगठन ने पाया कि X की अनुशंसा प्रणाली ने लाखों उपयोगकर्ताओं के फीड में घृणास्पद सामग्री को बढ़ावा देने में मदद की।

क्रोध और आक्रोश भड़काने वाली पोस्ट अधिक इंटरैक्शन उत्पन्न कर सकती हैं, जिससे जुड़ाव बढ़ता है और संभावित रूप से प्लेटफॉर्म को व्यावसायिक रूप से लाभ हो सकता है।

इन निष्कर्षों ने इस बात पर नए सिरे से ध्यान केंद्रित किया है कि सोशल मीडिया एल्गोरिदम किस प्रकार नस्लवादी दुर्व्यवहार को इंटरनेट के गुमनाम कोनों में पड़े रहने देने के बजाय उसे अत्यधिक दृश्यमान सामग्री में बदल सकते हैं।

किन इंग्लैंड खिलाड़ियों को सबसे अधिक नस्लीय दुर्व्यवहार का सामना करना पड़ा?

शोध के अनुसार, जूड बेलिंगहैम नस्लीय दुर्व्यवहार का सबसे अधिक शिकार होने वाला खिलाड़ी था।

बुकायो साका और कोबी मैनू के बारे में लिखे गए कुल पोस्टों की तुलना में नस्लवादी पोस्टों का अनुपात सबसे अधिक था।

होप नॉट हेट ने कहा कि इस्लाम धर्म अपनाने वाले जेड स्पेंस को भी मुस्लिम विरोधी दुर्व्यवहार का सामना करना पड़ा।

संगठन ने इस बात पर भी गौर किया कि कैसे गाली यह खबर हाई-प्रोफाइल खिलाड़ियों और फुटबॉल अकाउंट्स की पोस्ट पर आए रिप्लाई के जरिए फैली।

होप नॉट हेट के वरिष्ठ शोधकर्ता पैट्रिक हरमन्सन ने कहा कि एक्स को घृणास्पद सामग्री से उत्पन्न ध्यान से लाभ मिल रहा था।

उन्होंने बताया बीबीसी के खेल: “वास्तव में X को इस नफरत से फायदा हो रहा है।”

"यह अपने प्लेटफॉर्म पर जुड़ाव बढ़ाता है और अपने एल्गोरिदम का प्रभावी ढंग से उपयोग करके इसे अधिक से अधिक उपयोगकर्ताओं को दिखाता है।"

"वे अनुशंसा फ़ीड में दिखाई देते हैं - वे इस वेबसाइट के किसी कोने में छिपे नहीं हैं, बल्कि वे प्रमुखता से दिखाई देते हैं।"

"यह एक ऐसा विकल्प है जिसे चुनने की उसे बाध्यता नहीं है, फिर भी वह इसे चुनता है।"

फुटबॉल एसोसिएशन ने इस बात पर भी जोर दिया कि खिलाड़ियों को सिर्फ इसलिए नफरत भरी सामग्री का सामना नहीं करना चाहिए क्योंकि वे इंग्लैंड के लिए खेलते हैं।

एफए के एक प्रवक्ता ने कहा: "सभी खिलाड़ियों को ऑनलाइन नफरत फैलाने वाली, भेदभावपूर्ण और परेशान करने वाली सामग्री के संपर्क में आए बिना खेलने का अधिकार है।"

इसमें आगे कहा गया है: "हम चाहते हैं कि सेवा प्रदाता सभी के लिए ऑनलाइन सुरक्षित जीवन बनाने के लिए सभी आवश्यक कदम उठाएं।"

सोशल मीडिया एल्गोरिदम को क्यों दोषी ठहराया जा रहा है?

होप नॉट हेट के अनुसार, व्यक्तिगत नस्लवादी पोस्ट को हटाना समस्या का केवल एक हिस्सा है।

उपयोगकर्ता खातों को ब्लॉक कर सकते हैं और आपत्तिजनक संदेशों की रिपोर्ट कर सकते हैं, जबकि प्लेटफ़ॉर्म खातों को निलंबित कर सकते हैं। हालांकि, संगठन का कहना है कि अगर हानिकारक सामग्री पहले ही हजारों या लाखों लोगों को दिखाई जा चुकी है, तो ये उपाय ज़्यादा कारगर नहीं होते।

हर्मनसन ने कहा कि आपत्तिजनक पोस्टों को फैलने से रोकने के लिए एक्स और भी बहुत कुछ कर सकता है:

“X नस्लवाद को गंभीरता से नहीं लेता। हम इसे कई वर्षों से देख रहे हैं। कोई बदलाव या सुधार नहीं हुआ है।”

"दरअसल, यह अपेक्षाकृत कम संख्या में खाते और मूल ट्वीट होते हैं जिन्हें बाद में ढेरों जवाब मिलते हैं।"

मुझे लगता है कि इसे रोकना, या इसके एक बड़े हिस्से को रोकना पूरी तरह से संभव है।

होप नॉट हेट का मानना ​​है कि इस समस्या को कम करने का एक तरीका उन पोस्टों को डाउनरैंक करना होगा जो बड़ी मात्रा में दुर्व्यवहार को आकर्षित करते हैं।

सरल शब्दों में कहें तो, इसका मतलब यह होगा कि उन पोस्टों को कम लोगों को दिखाया जाए, बजाय इसके कि उन्हें अनुशंसाओं के माध्यम से और भी अधिक दृश्यता प्राप्त करने का अवसर दिया जाए।

इस संगठन ने ब्रिटेन के मीडिया नियामक ऑफकॉम से प्रमुख खेल आयोजनों से पहले कड़ी कार्रवाई करने का आह्वान किया है। यह चाहता है कि प्रमुख टूर्नामेंटों को ऑनलाइन नफरत के लिए "उच्च जोखिम" वाले समय के रूप में माना जाए।

इसके प्रस्ताव के तहत, जब दुर्व्यवहार बढ़ने लगे तो प्लेटफॉर्म को सुरक्षा के कड़े उपाय अपनाने होंगे। इसमें आपत्तिजनक सामग्री को पहले से ही हटाना और तेजी से नफरत फैलाने वाली पोस्ट की दृश्यता को कम करना शामिल हो सकता है।

ऑफकॉम ने कहा कि वह इस समस्या से निपटने के लिए प्रौद्योगिकी कंपनियों, पुलिस और फुटबॉल संगठनों के साथ पहले से ही काम कर रहा है। ऑनलाइन दुरुपयोग।

ऑफकॉम के एक प्रवक्ता ने कहा: "हम तकनीकी कंपनियों पर अपनी सेवाओं को सुरक्षित बनाने के लिए दबाव डाल रहे हैं, और अगर वे ऐसा नहीं करते हैं तो हम उन्हें जवाबदेह ठहराएंगे।"

नियामक ने विश्व कप से पहले पुलिस और फुटबॉल निकायों के साथ एक नई साझेदारी पर भी प्रकाश डाला।

नस्लवादी पोस्ट की पहचान कैसे की गई?

होप नॉट हेट ने इंग्लैंड के खिलाड़ियों का नाम या उनके हैंडल का उल्लेख करने वाली पोस्टों के साथ-साथ खिलाड़ी और टीम खातों की प्रतिक्रियाओं को भी एकत्रित किया।

शोधकर्ताओं ने टीम इंग्लैंड और अन्य प्रासंगिक कीवर्ड का उल्लेख करने वाली पोस्टों की भी खोज की। अप्रासंगिक पोस्टों को डेटासेट से हटा दिया गया।

शोधकर्ताओं द्वारा उदाहरणों को मैन्युअल रूप से चिह्नित करने के बाद शेष पोस्टों का विश्लेषण करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग किया गया। सिस्टम ने नस्लवाद के विभिन्न रूपों, धुर दक्षिणपंथी विचारों और घृणास्पद नारों की पहचान की।

शोधकर्ताओं ने परिणामों की सटीकता का आकलन करने के लिए नमूनों की मैन्युअल रूप से जांच भी की।

पोस्टों को केवल दुर्व्यवहार या गैर-दुर्व्यवहार के रूप में गिना गया। शोध में दुर्व्यवहार की गंभीरता के आधार पर पोस्टों को क्रमबद्ध करने का प्रयास नहीं किया गया।

ये निष्कर्ष ऐसे समय में सामने आए हैं जब एक अन्य रिपोर्ट चेतावनी देती है कि ऑनलाइन दुर्व्यवहार फुटबॉल जगत में एक बहुत व्यापक समस्या बनता जा रहा है।

फुटबॉल थिंक टैंक फेयर गेम ने ऑनलाइन दुर्व्यवहार को खेल जगत के लोगों को प्रभावित करने वाला एक "प्रणालीगत सुरक्षा मुद्दा" बताया है। फ़ुटबॉल में ऑनलाइन नुकसान रिपोर्ट में कहा गया है कि दुर्व्यवहार से स्वास्थ्य प्रभावित हो सकता है, भागीदारी कम हो सकती है और खिलाड़ियों के अलावा अन्य लोगों को भी नुकसान पहुंच सकता है।

फुटबॉल के लिए सर्वदलीय संसदीय समूह द्वारा समर्थित इस रिपोर्ट में "समन्वित, निवारक रणनीति" की मांग की गई है।

इसमें यह तर्क भी दिया गया कि डिजिटल दुर्व्यवहार को भौतिक स्थानों में होने वाले दुर्व्यवहार के समान ही माना जाना चाहिए।

इंग्लैंड के खिलाड़ियों के लिए मुद्दा सिर्फ सोशल मीडिया पर नस्लवादी टिप्पणियां देखने का नहीं है। यह इस बात से भी जुड़ा है कि वे टिप्पणियां कितनी जल्दी एक बहुत बड़े दर्शक वर्ग तक पहुंच सकती हैं।

यह शोध X जैसे प्लेटफार्मों के लिए एक कठिन प्रश्न पर प्रकाश डालता है: यदि उनके एल्गोरिदम सामग्री को वायरल करने में मदद कर सकते हैं, तो क्या उन्हें नस्लीय दुर्व्यवहार को हर किसी के सामने आने वाली अगली चीज बनने से रोकने के लिए भी अधिक प्रयास करने चाहिए?