"यह स्त्रीद्वेष और यौन हिंसा के पीड़ितों का अपमान है।"
ब्रिटेन सरकार ने एलोन मस्क की कंपनी एक्स को एआई द्वारा उत्पन्न अश्लील छवियों में हो रही वृद्धि से निपटने का आदेश दिया है, अन्यथा उसे वस्तुतः प्रतिबंध का सामना करना पड़ेगा।
RSI चेतावनी यह ऐसे समय में सामने आया है जब नियामकों, मंत्रियों और पीड़ितों ने प्लेटफॉर्म पर अपने ग्रोक एआई टूल का उपयोग करके उत्पन्न यौन शोषण से महिलाओं और बच्चों की रक्षा करने में विफल रहने का आरोप लगाया है।
ऑफकॉम ने पुष्टि की है कि साइट पर आंशिक रूप से नग्न महिलाओं और बच्चों को दर्शाने वाली छवियों के प्रसारित होने पर बढ़ते विरोध के बाद वह एक्स के खिलाफ जांच में तेजी ला रहा है।
नियामक ने कहा कि उसने कंपनी से तत्काल जवाब मांगा है और कुछ ही दिनों में प्रवर्तन कार्रवाई कर सकता है।
X ने घोषणा की कि Grok का उपयोग करके छवियों को उत्पन्न करने और संपादित करने की क्षमता केवल सशुल्क ग्राहकों तक ही सीमित रहेगी।
एक्स ने कहा कि यह सुविधा अब "केवल भुगतान करने वाले ग्राहकों" तक ही सीमित रहेगी, जिन्हें व्यक्तिगत विवरण प्रदान करना होगा।
कंपनी ने सुझाव दिया कि इससे उन उपयोगकर्ताओं की पहचान करना आसान हो जाएगा जो इस टूल का दुरुपयोग करते हैं।
हालांकि, यह कदम आलोचना को शांत करने में विफल रहा और इसके बजाय पीड़ितों, राजनेताओं और विशेषज्ञों के बीच आक्रोश को और गहरा कर दिया।
डाउनिंग स्ट्रीट ने इसे अस्वीकार्य और पीड़ितों के लिए अपमानजनक बताया।
एक प्रवक्ता ने कहा: "इस कदम से अवैध छवियों के निर्माण की अनुमति देने वाली एआई सुविधा को प्रीमियम सेवा में बदल दिया गया है।"
“यह कोई समाधान नहीं है। वास्तव में, यह स्त्री द्वेष और यौन हिंसा के पीड़ितों का अपमान है।”
"इससे यह साबित होता है कि जब X चाहे तो तेजी से आगे बढ़ सकता है।"
“आपने कल प्रधानमंत्री का भाषण सुना। उन्होंने स्पष्ट रूप से कहा कि X को कार्रवाई करनी होगी, और अभी करनी होगी। X के लिए इस मुद्दे को गंभीरता से लेने का समय आ गया है।”
ग्रोक को X में एकीकृत किया गया है और उपयोगकर्ता इसे कपड़े पहने हुए चित्रों को बदलने के लिए प्रेरित करने में सक्षम हैं, जिससे विषय बिकनी या कामुक मुद्राओं में दिखाई देते हैं।
मंत्री अब इस बात पर विचार कर रहे हैं कि क्या ब्रिटेन में X तक पहुंच को अवरुद्ध किया जाना चाहिए।
प्रौद्योगिकी सचिव लिज़ केंडल ने कहा कि सरकार इस विकल्प पर गंभीरता से विचार कर रही है।
उन्होंने कहा कि ऑफकॉम से कुछ ही दिनों में कार्रवाई की घोषणा करने की उम्मीद है, न कि हफ्तों में।
केंडल ने आगे कहा: "एक्स को स्थिति को संभालना होगा और इस सामग्री को ठीक से समझना होगा।"
और मैं उन्हें याद दिलाना चाहूंगा कि ऑनलाइन सुरक्षा अधिनियम में, यदि वे यूके में लोगों के लिए कानून का पालन करने से इनकार करते हैं, तो सेवाओं तक पहुंच को अवरुद्ध करने के लिए बैकस्टॉप शक्तियां मौजूद हैं।
और अगर ऑफकॉम उन शक्तियों का इस्तेमाल करने का फैसला करता है, तो उसे सरकार का पूरा समर्थन प्राप्त होगा।
ऑनलाइन सुरक्षा अधिनियम के तहत, ऑफकॉम अनुपालन न करने पर करोड़ों पाउंड का जुर्माना लगा सकता है।
अंतिम दंड अदालत का वह आदेश हो सकता है जिसमें इंटरनेट प्रदाताओं को किसी साइट या ऐप को पूरी तरह से ब्लॉक करने के लिए कहा जाता है।
ब्रिटेन सरकार की धमकी के बारे में एक पोस्ट का जवाब देते हुए मस्क ने लिखा:
वे सेंसरशिप के लिए कोई भी बहाना ढूंढ लेते हैं।
कृत्रिम बुद्धिमत्ता (एआई) द्वारा व्यापक रूप से निर्मित यौन उत्तेजक छवियों की रिपोर्ट के बाद मंत्रियों पर दबाव बढ़ गया है। इनमें से कई छवियां तब बनाई गईं जब उपयोगकर्ताओं ने ग्रोक (Grok) से महिलाओं और कभी-कभी बच्चों की छवियों में हेरफेर करने का अनुरोध किया।
डेटा कंपनी सिमिलरवेब के अनुसार, X के लगभग 300 मिलियन मासिक उपयोगकर्ता हैं।
अमेरिकी कंपनी ऐपफिगर्स का अनुमान है कि 2.2 लाख से 2.6 लाख उपयोगकर्ता एक्स सब्सक्रिप्शन के लिए भुगतान करते हैं।
पीड़ितों का कहना है कि प्लेटफॉर्म की प्रतिक्रिया बहुत देर से आई है।
प्रसारक नरिंदर कौर ने कहा कि यह नया प्रतिबंध कोई जीत नहीं है।
उन्होंने कहा: "इस दुर्व्यवहार की शिकार होने के नाते, ऐसा लगता है कि जो लोग प्रीमियम एक्स के लिए भुगतान करते हैं, वे अब इस सुविधा का लाभ उठा सकेंगे।"
और जहां तक यह कहने की बात है कि खातों की पहचान करना कम से कम आसान होगा - पुलिस वास्तव में क्या करेगी और कितनी जल्दी करेगी?
"अगर वह तस्वीर कुछ घंटों के लिए भी बनी रहती है तो नुकसान और अपमान पहले ही हो चुका होता है।"
सरकारी सूत्रों का कहना है कि सभी विकल्प खुले हैं, लेकिन प्रधानमंत्री के सहयोगी X को पूरी तरह से छोड़ने के बारे में संशय में हैं।
उनका मानना है कि जन दबाव और नियामक कार्रवाई से बदलाव लाने की संभावना अधिक होती है।
हालांकि, सांसदों और संगठनों की बढ़ती संख्या पहले ही इस मंच को छोड़ चुकी है।
महिला क्षेत्र के कई संगठनों ने भी X को छोड़ दिया है, जिनमें रिफ्यूज और वीमेंस एड आयरलैंड शामिल हैं।
विक्टिम सपोर्ट ने अप्रैल 2025 में कहा कि X "हमारे दर्शकों के साथ संवाद करने के लिए अब सही जगह नहीं है"।
नए प्रतिबंधों के बावजूद, शोधकर्ताओं ने पाया कि कुछ मामलों में ग्रोक ने यौन उत्तेजक छवियों का निर्माण जारी रखा।
शुक्रवार को, "उसे बिकिनी पहनाओ" जैसी रिक्वेस्ट करने वाले गैर-भुगतान करने वाले यूजर्स को चैटबॉट द्वारा ब्लॉक कर दिया गया।
हालांकि, सशुल्क ग्राहकों को बिकनी पहने पुरुषों सहित कुछ खास तस्वीरें बनाने की सुविधा अभी भी उपलब्ध थी।
शोधकर्ताओं ने बताया कि ग्रोक ऐप पर, जहां सामग्री तुरंत सार्वजनिक नहीं होती है, बिकनी पहने महिलाओं और बच्चों की तस्वीरें अभी भी उत्पन्न हो रही थीं।
लोड हो रहा है ...