"ये काल्पनिक खतरे नहीं हैं; ये वास्तविक हैं।"
राष्ट्रीय अपराध एजेंसी ने चेतावनी दी है कि एआई द्वारा उत्पन्न दुर्व्यवहार सामग्री को लेकर बढ़ती चिंताओं के मद्देनजर माता-पिता को अपने बच्चों की तस्वीरें सार्वजनिक रूप से ऑनलाइन पोस्ट करने से बचना चाहिए।
यह चेतावनी इंटरनेट वॉच फाउंडेशन के साथ साझेदारी में जारी की गई है, जो कहता है कि कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग करके बच्चों की छवियों का दुरुपयोग करके बाल यौन शोषण सामग्री (सीएसएएम) बनाने का खतरा बढ़ रहा है।
एनसीए ने कहा कि आईडब्ल्यूएफ द्वारा 2025 में वास्तविक बाल यौन शोषण की 8,000 से अधिक एआई-जनित छवियों और वीडियो की पहचान की गई, जो पिछले वर्ष की तुलना में 14% की वृद्धि है।
एनसीए के वरिष्ठ प्रबंधक टिम राइट ने कहा:
"हम और हमारे पुलिस सहयोगी अपराधियों से निपटने के साथ-साथ रोकथाम को भी महत्वपूर्ण बनाए रखते हैं।"
इन संगठनों ने ऑनलाइन इमेज शेयरिंग से जुड़े जोखिमों को कम करने के उद्देश्य से माता-पिता और अभिभावकों के लिए अद्यतन दिशानिर्देश जारी किए हैं।
दिशा-निर्देश में कहा गया है: "एआई रोजमर्रा की जिंदगी का हिस्सा बन रहा है।"
"हालांकि इसके कई फायदे हैं, लेकिन इसका दुरुपयोग भी किया जा सकता है, जिसमें उन लोगों द्वारा इसका इस्तेमाल करना भी शामिल है जो इसका उपयोग बच्चों की नग्न, अर्ध-नग्न या यौन छवियों और वीडियो को बनाने, उनमें हेरफेर करने और साझा करने के लिए करते हैं।"
आईडब्ल्यूएफ ने कहा कि विश्लेषकों ने 2024 में बाल यौन शोषण के 13 एआई-जनित वीडियो की पहचान की। यह संख्या 2025 में तेजी से बढ़कर 3,440 हो गई।
यह ब्रिटेन के कानून के तहत इस सामग्री को सीएएसएएम (कम्युनिटी सपोर्टेड एमिनिटीज) के रूप में वर्गीकृत करता है।
इस दिशा-निर्देश में माता-पिता को तीन मुख्य कदम उठाने चाहिए:
- सोशल मीडिया ऐप्स पर गोपनीयता सेटिंग्स की समीक्षा करें, इन-ऐप नियंत्रणों का उपयोग करके यह सीमित करें कि कौन पोस्ट देख सकता है या खातों को निजी पर सेट करें।
- सोशल मीडिया अकाउंट्स पर मौजूद पोस्ट्स की जांच करें, यह सुनिश्चित करते हुए कि स्कूल यूनिफॉर्म या चेहरों जैसी पहचान योग्य जानकारी दिखाई न दे और जहां आवश्यक हो, जोखिम भरी सामग्री को हटा दें।
- परिवार, दोस्तों और स्कूलों या क्लबों जैसे संगठनों के साथ छवि संबंधी सहमति पर फिर से विचार करें, और बच्चों की छवियों से संबंधित अनुमति प्रपत्रों की समीक्षा करें।
यह माता-पिता को इस बात के लिए भी प्रोत्साहित करता है कि वे बच्चों को इस बारे में बातचीत में शामिल करें कि उनकी तस्वीरों का उपयोग और साझा कैसे किया जाता है, जिससे उन्हें यह समझने में मदद मिलती है कि कब 'नहीं' कहना है।
सरकार ने एआई-आधारित दुरुपयोग से निपटने के लिए भी कदम उठाए हैं, जिनमें तथाकथित "नग्नता" ऐप्स पर प्रतिबंध लगाना और सुरक्षा उपायों को सख्त करना शामिल है। नियम एआई कंपनियों पर यह दायित्व है कि वे अवैध सामग्री बनाने के लिए सिस्टम के उपयोग को रोकें।
इस दिशा-निर्देश का उद्देश्य माता-पिता को एआई और बाल यौन शोषण सामग्री से जुड़े उभरते जोखिमों को समझने में मदद करना है।
इसमें कहा गया है: "एक अभिभावक या देखभालकर्ता के रूप में इसके बारे में सुनना चिंताजनक लग सकता है, लेकिन आप अकेले नहीं हैं।"
"यह जानना महत्वपूर्ण है कि आप अपने बच्चे की बेहतर सुरक्षा के लिए कई कदम उठा सकते हैं, जिनमें से कई कदम आप शायद पहले से ही उठा रहे हों।"
आईडब्ल्यूएफ की प्रमुख केरी स्मिथ ने कहा: "हम यह नहीं कहना चाहते कि आप अपने बच्चों की तस्वीरें उन लोगों के साथ साझा न करें जिनसे आप प्यार करते हैं और जिन पर आप भरोसा करते हैं, लेकिन हम चाहते हैं कि हर कोई संभावित जोखिमों से अवगत हो और अपने पास मौजूद सभी तथ्यों के आधार पर सोच-समझकर निर्णय ले।"
“ये काल्पनिक खतरे नहीं हैं; ये वास्तविक हैं।”
यह सलाह तथाकथित "शेयरेंटिंग" को लेकर लंबे समय से चली आ रही चिंताओं पर आधारित है, जिसमें माता-पिता बच्चों की तस्वीरें ऑनलाइन साझा करते हैं।
विशेषज्ञों का कहना है कि इससे बच्चों को पहचान की चोरी, धोखाधड़ी और बड़े होने पर गोपनीयता संबंधी दीर्घकालिक समस्याओं सहित कई जोखिमों का सामना करना पड़ सकता है।
छवियों में हेरफेर करने में सक्षम एआई उपकरणों के उदय ने इन चिंताओं को और बढ़ा दिया है, जिससे सुरक्षा संबंधी सलाह देना और भी अधिक जरूरी हो गया है।
लोड हो रहा है ...