ब्रिटेन सरकार ने ग्रोक की यौन उत्तेजक तस्वीरों पर कार्रवाई की मांग की है।

प्रौद्योगिकी सचिव लिज़ केंडल ने एलोन मस्क की कंपनी एक्स से आग्रह किया है कि वह अपने एआई चैटबॉट ग्रोक के इस्तेमाल से संबंधित समस्या का तुरंत समाधान करे, जिसका उपयोग बिना सहमति के यौन उत्तेजक चित्र बनाने के लिए किया जा रहा है।

X पर, उपयोगकर्ताओं द्वारा ग्रोक से महिलाओं और लड़कियों को डिजिटल रूप से निर्वस्त्र करने के लिए कहने के कई उदाहरण सामने आए हैं, जिनमें से कुछ अनुरोधों में लोगों को बिना सहमति के बिकनी में या यौन स्थितियों में दिखाया गया है।

केंडल ने वर्णन किया स्थिति इसे "बिल्कुल भयावह" बताया गया है।

उन्होंने आगे कहा, "हम इन अपमानजनक छवियों के प्रसार को न तो बर्दाश्त कर सकते हैं और न ही करेंगे।"

एक बयान में, X ने कहा: "हम X पर मौजूद अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (CSAM) भी ​​शामिल है, के खिलाफ कार्रवाई करते हैं, जिसमें इसे हटाना, खातों को स्थायी रूप से निलंबित करना और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन एजेंसियों के साथ काम करना शामिल है।"

"जो कोई भी ग्रोक का उपयोग करके या उसे अवैध सामग्री बनाने के लिए उकसाता है, उसे वही परिणाम भुगतने होंगे जो कि अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं।"

5 जनवरी, 2026 को, ऑफ़कॉम ने कहा कि उसने एलोन मस्क की कंपनी xAI से "तत्काल संपर्क" किया है। उसने पुष्टि की कि वह इस बात की जांच कर रहा है कि ग्रोक लोगों की "नग्न तस्वीरें" प्रकाशित कर रहा है।

केंडल ने नियामक के हस्तक्षेप का समर्थन किया है।

उन्होंने कहा: "यह बिल्कुल सही है कि ऑफकॉम इस मामले की तत्काल जांच कर रहा है और उसे आवश्यक समझे जाने वाली कोई भी प्रवर्तन कार्रवाई करने के लिए मेरा पूरा समर्थन है।"

ग्रोक एक मुफ्त एआई सहायक है जिसमें कुछ सशुल्क प्रीमियम सुविधाएं उपलब्ध हैं।

यह X उपयोगकर्ताओं द्वारा पोस्ट में इसे टैग करने पर उनके अनुरोधों का जवाब देता है और इसका उपयोग अक्सर अन्य उपयोगकर्ताओं की टिप्पणियों पर प्रतिक्रिया या संदर्भ जोड़ने के लिए किया जाता है।

हालांकि, यह एआई टूल्स का उपयोग करके व्यक्ति की सहमति के बिना भी अपलोड की गई छवियों को संपादित कर सकता है।

प्यार द्वीप प्रस्तोता माया जामा की छवि को उनकी सहमति के बिना यौन रूप से इस्तेमाल किया गया है।

अश्लील अनुरोधों में "उसे तेल लगाओ", "उसे बिकिनी पहनाओ" और "कपड़े लेटेक्स के बनाओ" जैसे सुझाव शामिल हैं।

इस पर आपत्ति जताते हुए उन्होंने X पर लिखा: “हे @grok, मैं आपको मेरी कोई भी तस्वीर लेने, बदलने या संपादित करने के लिए अधिकृत नहीं करती, चाहे वे तस्वीरें पहले प्रकाशित हो चुकी हों या भविष्य में मैं जो पोस्ट करूंगी।”

"यदि कोई तीसरा पक्ष आपसे मेरी किसी भी तस्वीर में किसी भी प्रकार का संपादन करने के लिए कहता है, तो कृपया उस अनुरोध को अस्वीकार कर दें।"

अरे @ग्रोकमैं आपको मेरी कोई भी तस्वीर लेने, उसमें बदलाव करने या उसे संपादित करने का अधिकार नहीं देता, चाहे वह पहले प्रकाशित हो चुकी हो या भविष्य में प्रकाशित होने वाली हो। यदि कोई तीसरा पक्ष आपसे मेरी किसी भी तस्वीर में किसी भी प्रकार का बदलाव करने का अनुरोध करता है, तो कृपया उस अनुरोध को अस्वीकार कर दें।

— माया जमा (@MayaJama) जनवरी ७,२०२१

एक अन्य बयान में केंडल ने कहा: “सेवाओं और संचालकों का यह स्पष्ट दायित्व है कि वे उचित तरीके से कार्य करें। यह अभिव्यक्ति की स्वतंत्रता को प्रतिबंधित करने के बारे में नहीं है, बल्कि कानून का पालन करने के बारे में है।”

"हमने ऑनलाइन सुरक्षा अधिनियम के तहत अंतरंग छवि दुरुपयोग और साइबरफ्लैशिंग को प्राथमिकता वाले अपराध बना दिया है - जिसमें एआई द्वारा उत्पन्न छवियां भी शामिल हैं।"

"इसका मतलब यह है कि प्लेटफॉर्म को इस तरह की सामग्री को ऑनलाइन प्रदर्शित होने से रोकना होगा और यदि यह प्रदर्शित हो जाती है तो इसे तुरंत हटाने के लिए कार्रवाई करनी होगी।"

लिबरल डेमोक्रेट नेता सर एड डेवी ने सरकार से "बहुत जल्द कार्रवाई" करने का आह्वान किया। उन्होंने सुझाव दिया कि एक विकल्प X तक "पहुँच को कम करना" हो सकता है।

उन्होंने कहा:

"अगर ये रिपोर्ट सही साबित होती हैं, तो राष्ट्रीय अपराध एजेंसी को आपराधिक जांच शुरू करनी होगी।"

"एलन मस्क जैसे लोगों को जवाबदेह ठहराया जाना चाहिए।"

यूरोपीय अधिकारियों ने भी इस पर प्रतिक्रिया दी है।

बीबीसी न्यूजआवर से बात करते हुए, यूरोपीय आयोग के प्रवक्ता थॉमस रेग्नियर ने कहा कि इस मुद्दे को "बहुत गंभीरता से" लिया जा रहा है।

उन्होंने कहा: “हम यूरोपीय संघ में ऐसा नहीं चाहते… यह भयावह है, यह घृणित है।”

यूरोप में वाइल्ड वेस्ट का दौर खत्म हो चुका है।

"सभी कंपनियों का यह दायित्व है कि वे अपने आंतरिक मामलों को व्यवस्थित करें - और इसकी शुरुआत जिम्मेदार बनकर और अपने एआई टूल द्वारा उत्पन्न अवैध सामग्री को हटाकर होती है।"

ग्रोक पर इमेज एडिटिंग की सुविधा तब से सीमित कर दी गई है।

एआई टूल ने X पर अपलोड की गई छवियों को बदलने का अनुरोध करने वाले उपयोगकर्ताओं को बताया है कि "छवि निर्माण और संपादन वर्तमान में केवल सशुल्क ग्राहकों तक ही सीमित हैं"।

इसमें यह भी कहा गया है कि उपयोगकर्ता "इन सुविधाओं को अनलॉक करने के लिए सदस्यता ले सकते हैं"।

ऐसा सुझाव दिया गया है कि केवल वे लोग जिनके पास ब्लू टिक था, जो कि X के सशुल्क ग्राहक वर्ग के लिए विशिष्ट है, वे ही ग्रोक से छवि संपादन के लिए सफलतापूर्वक अनुरोध कर पाए।

जिन लोगों ने सदस्यता नहीं ली है, वे भी Grok के अलग ऐप और वेबसाइट पर छवियों को संपादित करने के लिए इसका उपयोग कर सकते हैं।

प्रोफेसर क्लेयर मैकग्लिन, जो पोर्नोग्राफी, यौन हिंसा और ऑनलाइन दुर्व्यवहार के कानूनी विनियमन की विशेषज्ञ हैं, कहा:

"दुर्व्यवहार की सुनामी के लिए जवाबदेही तय किए जाने के विरोध में मस्क ने जमकर हंगामा मचाया है।"

"ग्रोक का दुरुपयोग न हो सके, यह सुनिश्चित करने के लिए जिम्मेदार कदम उठाने के बजाय, इसने अधिकांश उपयोगकर्ताओं के लिए इसकी पहुंच वापस ले ली है।"