"तथ्य यह है कि उनका दुरुपयोग आसानी से किया जा सकता है"
एआई डीपफेक और 'न्यूडिफाई' ऐप्स भारतीय महिलाओं को इंटरनेट से दूर कर रहे हैं, क्योंकि नए शोध से पता चलता है कि डिजिटल रूप से परिवर्तित यौन छवियों में तेजी से वृद्धि हुई है।
मुंबई स्थित विधि स्नातक गाथा सरवैया के लिए, निशाना बनने का डर उनकी ऑनलाइन उपस्थिति को आकार देता है।
उसने कहा गार्जियन"तुरंत ही मन में ख्याल आता है, 'ठीक है, शायद यह सुरक्षित नहीं है। हो सकता है लोग हमारी तस्वीरें ले लें और उनके साथ कुछ और कर लें।'"
बहुत भारतीय महिलाएं एक ऐसा करियर बनाने की कोशिश कर रहे हैं जो ऑनलाइन दिखाई देने पर निर्भर हो। लेकिन जैसे-जैसे आर्टिफिशियल इंटेलिजेंस ज़्यादा उन्नत होता जा रहा है, यह दृश्यता ख़तरनाक लगने लगी है।
द्वारा जारी एक रिपोर्ट गपशप पाया गया कि एआई उपकरणों का उपयोग महिलाओं को अपमानित करने और नियंत्रित करने के लिए तेजी से किया जा रहा है।
रति फाउंडेशन के आंकड़ों पर आधारित इस रिपोर्ट में चेतावनी दी गई है कि कृत्रिम बुद्धिमत्ता ने “महिलाओं और लैंगिक अल्पसंख्यकों को परेशान करने का एक नया शक्तिशाली तरीका” तैयार कर लिया है।
लिंग एवं डिजिटल अधिकारों पर शोध करने वाली रोहिणी लक्षणे ने कहा, "यह भयावह प्रभाव सच है।
"यह तथ्य कि इनका इतनी आसानी से दुरुपयोग किया जा सकता है, मुझे अतिरिक्त सतर्क बनाता है।"
रिपोर्ट के अनुसार, ऑनलाइन उत्पीड़न के लगभग दस मामलों में से एक मामला अब एआई-जनित छवियों से संबंधित है।
इनमें छेड़छाड़ करके बनाई गई नग्न तस्वीरें और अन्य बदले हुए दृश्य शामिल हैं, जो स्पष्ट तो नहीं हैं, लेकिन रूढ़िवादी समुदायों में कलंक का कारण बन सकते हैं।
रिपोर्ट में कहा गया है: "एआई यथार्थवादी दिखने वाली सामग्री के निर्माण को बहुत आसान बनाता है।"
भारत कृत्रिम बुद्धिमत्ता के लिए एक परीक्षण स्थल बन गया है। यह ओपनएआई के सबसे बड़े बाजारों में से एक है, जहाँ पेशेवर और रचनात्मक क्षेत्रों में इसे तेज़ी से अपनाया जा रहा है।
लेकिन इस लोकप्रियता ने एक और भी गहरी प्रवृत्ति को उजागर किया है: डीपफेक का सामान्यीकरण गाली.
मशहूर हस्तियां इसके शुरुआती शिकार रही हैं। आशा भोसले की तस्वीर और आवाज़ को कृत्रिम बुद्धिमत्ता (एआई) का इस्तेमाल करके क्लोन किया गया और यूट्यूब पर शेयर किया गया।
खोजी पत्रकार राणा अय्यूब को एक डॉक्सिंग अभियान के तहत निशाना बनाया गया, जिसके परिणामस्वरूप सोशल मीडिया पर डीपफेक यौन छवियां फैलाई गईं।
हालांकि ऐसे मामले राष्ट्रीय बहस को जन्म देते हैं, लेकिन आम महिलाओं को अक्सर सबसे अधिक नुकसान उठाना पड़ता है।
टैटल की सह-संस्थापक तरुणिमा प्रभाकर ने कहा: "ऑनलाइन उत्पीड़न का परिणाम वास्तव में खुद को चुप कर लेना या ऑनलाइन कम सक्रिय हो जाना है।"
प्रभाकर की टीम ने दो साल तक फोकस समूह आयोजित करके यह समझने का प्रयास किया कि डिजिटल दुरुपयोग किस प्रकार व्यवहार को प्रभावित करता है।
उन्होंने कहा: "हमने जिस भावना की पहचान की है वह है थकान। और उस थकान का नतीजा यह भी है कि आप इन ऑनलाइन जगहों से पूरी तरह दूर हो जाते हैं।"
लक्ष्ये ने सार्वजनिक रूप से अपनी भागीदारी का तरीका भी बदल दिया है। वह अपनी प्रोफ़ाइल तस्वीर के लिए फ़ोटो की बजाय एक चित्र का इस्तेमाल करती हैं और कार्यक्रमों में फ़ोटो खिंचवाने से इनकार करती हैं।
उन्होंने बताया, "तस्वीरों के दुरुपयोग का डर है, खासकर उन महिलाओं के लिए जिनकी सार्वजनिक उपस्थिति है, जिनकी ऑनलाइन आवाज है, जो राजनीतिक रुख अपनाती हैं।"
रति फाउंडेशन की रिपोर्ट में बताया गया है कि किस प्रकार एआई-संचालित 'न्यूडिफाई' ऐप्स जबरन वसूली और डिजिटल ब्लैकमेल की महामारी को बढ़ावा दे रहे हैं।
एक मामले में, एक महिला की तस्वीर को ऋण आवेदन से ऐसे ही एक उपकरण का उपयोग करके डिजिटल रूप से हटा दिया गया और ऑनलाइन साझा कर दिया गया।
रिपोर्ट में कहा गया है: "जब उसने भुगतान जारी रखने से इनकार कर दिया, तो उसकी अपलोड की गई तस्वीर को 'न्यूडिफाई' ऐप का उपयोग करके डिजिटल रूप से बदल दिया गया और एक अश्लील छवि पर रख दिया गया।"
वह तस्वीर और उसका फ़ोन नंबर व्हाट्सएप पर फैल गया। अजनबी लोग उसे अश्लील संदेश भेजने लगे।
महिला ने रति हेल्पलाइन को बताया कि वह "शर्मिंदा और सामाजिक रूप से बदनाम महसूस कर रही है, जैसे कि वह 'किसी गंदी चीज में शामिल' हो गई हो।"
डीपफेक फ़िलहाल भारत में क़ानूनी रूप से एक अस्पष्ट दायरे में आते हैं। कोई भी क़ानून इन पर विशेष रूप से प्रतिबंध नहीं लगाता, हालाँकि ऑनलाइन उत्पीड़न और धमकी के मौजूदा प्रावधान लागू हो सकते हैं।
फिर भी पीड़ितों का कहना है कि न्याय प्रणाली में आगे बढ़ना कठिन है।
कानून प्रवर्तन एजेंसियों का कहना है कि सोशल मीडिया प्लेटफॉर्म्स से कार्रवाई करवाना भी मुश्किल है। इक्वैलिटी नाउ की एक अलग रिपोर्ट इस प्रक्रिया को "अपारदर्शी, संसाधन-गहन, असंगत और अक्सर अप्रभावी" बताती है।
हालांकि एप्पल और मेटा ने 'न्यूडिफाई' ऐप्स पर अंकुश लगाने के लिए सीमित कदम उठाए हैं, लेकिन रिपोर्ट में कहा गया है कि पीड़ितों के प्रति प्रतिक्रिया धीमी और अपर्याप्त बनी हुई है।
एक मामले में, व्हाट्सएप ने अपमानजनक सामग्री को तभी हटाया जब वह फैल चुकी थी। दूसरे मामले में, इंस्टाग्राम ने तब तक कोई कार्रवाई नहीं की जब तक पीड़ित ने बार-बार शिकायत दर्ज नहीं कराई।
रति के शोधकर्ताओं ने इस पैटर्न को "सामग्री पुनरावृत्ति" कहा है - जिसमें अपमानजनक सामग्री को हटा दिए जाने के बाद भी उसका बार-बार सामने आना शामिल है।
रिपोर्ट में आगे कहा गया है: “एआई-जनित दुरुपयोग की एक स्थायी विशेषता इसकी बढ़ती प्रवृत्ति है।
"इसे आसानी से बनाया जाता है, व्यापक रूप से साझा किया जाता है और यह बार-बार सामने आता है।"
संगठन प्रमुख तकनीकी कंपनियों से और अधिक पारदर्शी होने और डेटा साझा करने का आग्रह कर रहा है जिससे ऐसी सामग्री को ट्रैक करने और हटाने में मदद मिल सके। विशेषज्ञों ने चेतावनी दी है कि बिना किसी मज़बूत हस्तक्षेप के, समस्या और गहरी होगी।
अनेक भारतीय महिलाओं के लिए यह संदेश पहले से ही स्पष्ट है: ऑनलाइन दिखाई देना बढ़ते जोखिम से जुड़ा है।
लोड हो रहा है ...