"जो उत्पीड़न के रूप में शुरू हुआ वह जल्द ही लाभ कमाने वाले व्यवसाय में बदल गया।"
अर्चिता फुकन लगभग रातोंरात वायरल सनसनी बन गईं: बोल्ड रील्स, एक ग्लैमरस सौंदर्य, और यहां तक कि वयस्क स्टार केंड्रा लस्ट के साथ एक तस्वीर भी।
वह एक और आत्मविश्वासी महिला की तरह लग रही थी इंस्टाग्राम प्रभावित करने वाला प्रसिद्धि का पीछा करते हुए.
लेकिन यहाँ परेशान करने वाला मोड़ यह है कि वह असली नहीं थी।
उनकी बेबीडॉल आर्ची प्रोफ़ाइल महज एक डीपफेक व्यक्तित्व थी, जिसे कृत्रिम बुद्धिमत्ता, मॉर्फ्ड फोटो और चुराई गई पहचान का उपयोग करके बनाया गया था।
इस मामले ने कृत्रिम बुद्धिमत्ता, ऑनलाइन पोर्नोग्राफी और अनियंत्रित डिजिटल दुरुपयोग के बीच भारत के बढ़ते संकट को उजागर किया है।
अर्चिता फुकन मामला क्या है?
इंस्टाग्राम प्रोफाइल 'बेबीडॉल आर्ची' पहली बार अगस्त 2020 में सामने आई थी। इसमें एक युवा, आत्मविश्वास से भरी महिला को ट्रेंडी डांस रील्स, सेल्फी और बोल्ड कंटेंट पोस्ट करते हुए दिखाया गया था।
सोशल मीडिया पर परिवर्तन वीडियो और "बैडी" सौंदर्यशास्त्र के प्रति जुनून के कारण उनके अनुयायियों की संख्या में वृद्धि हुई।
यह तब और बढ़ गया जब अर्चिता ने 'डेम अन ग्र्र' पर एक रील सेट में लिप-सिंक किया।
इस खाते के अब 1.4 मिलियन से अधिक अनुयायी हैं और यह सत्यापित है।
मामला तब और बढ़ गया जब अर्चिता ने अमेरिकी वयस्क फिल्म स्टार केंड्रा लस्ट के साथ एक फोटो पोस्ट की।
पूरे भारत में अफ़वाह फैल गई कि एक असमिया महिला अमेरिकी पोर्न इंडस्ट्री में शामिल हो गई है। असम के मीम पेजों पर तो मानो धूम मच गई। जिज्ञासा और भी बढ़ गई। क्या वो भारत की अगली वायरल एडल्ट स्टार थी?
लेकिन सच्चाई इससे कहीं अधिक गहरी थी।
संपूर्ण व्यक्तित्व को वास्तविक अर्चिता फुकन के पूर्व प्रेमी प्रतीम बोरा, जो असम के तिनसुकिया का एक मैकेनिकल इंजीनियर है, द्वारा एआई का उपयोग करके गढ़ा गया था।
उसकी एक तस्वीर का उपयोग करके, बोरा ने एक भयावह संगठन के हिस्से के रूप में एक डीपफेक पहचान बनाई। बदला भूखंड।
वह ओपनएआई, मिडजर्नी और अन्य एआई सॉफ्टवेयर जैसे टूल्स का इस्तेमाल करके जीवंत, आकर्षक सामग्री तैयार करता था। वह तस्वीरों में हेराफेरी करता था, गानों की लिप-सिंकिंग करता था, यात्रा रीलों को संपादित करता था, और यहाँ तक कि कृत्रिम अश्लील सामग्री भी जोड़ता था, और यह सब पीड़ित की जानकारी या सहमति के बिना करता था।
डिब्रूगढ़ के प्रभारी एसएसपी, आईपीएस सिजल अग्रवाल ने कहा:
"जो उत्पीड़न के रूप में शुरू हुआ वह जल्द ही लाभ कमाने वाले व्यवसाय में बदल गया।"
इस खाते का नाम बेबीडॉल आर्ची से बदलकर अमीरा इश्तारा कर दिया गया और यह शीघ्र ही मुद्रीकृत हो गया।
बोरा ने कथित तौर पर ActualFans नामक एक सदस्यता प्लेटफॉर्म के माध्यम से 10 लाख रुपये (£ 8,600) से अधिक की कमाई की, जहां 'बेबीडॉल आर्ची' की एआई-जनरेटेड वयस्क सामग्री होस्ट की गई थी।
अग्रवाल ने आगे कहा, "हमने इंस्टाग्राम अकाउंट का नंबर ट्रेस किया और उसे प्रतीम के नाम से जोड़ा। जब हमने परिवार से पूछा कि क्या वे उसे जानते हैं, तो उन्होंने बताया कि वह पीड़िता का पुराना परिचित था।"
"उसने उसे परेशान करने के लिए यह खाता शुरू किया था, लेकिन जैसे ही उसने पैसा कमाना शुरू किया, वह लालची हो गया और खाता जारी रखा।"
पीड़ित को जब अंततः खाते का पता चला और शिकायत दर्ज की गई तो बोरा को गिरफ्तार कर लिया गया।
पुलिस ने सिम कार्ड, एक लैपटॉप, एक टैबलेट और अन्य डिजिटल उपकरण ज़ब्त किए। जाँच से पता चला है कि बोरा ने सामग्री फैलाने और अपनी पहचान छिपाने के लिए कई फ़र्ज़ी जीमेल आईडी और सोशल मीडिया अकाउंट का इस्तेमाल किया था।
लेकिन इससे भी अधिक परेशान करने वाली बात यह थी कि यह धोखा कितना विश्वसनीय हो गया था।
अर्चिता की पोस्ट पर केंड्रा लस्ट की टिप्पणियों ने, जो संभवतः रूपांतरित थीं, भ्रम को और बढ़ा दिया।
इंटरनेट, जो प्रतिक्रिया देने में तेज़ लेकिन पुष्टि करने में धीमा था, ने बिना किसी सवाल के इसे स्वीकार कर लिया। और इस सबके केंद्र में रहने वाली महिला को उस ज़िंदगी के टुकड़े उठाने के लिए छोड़ दिया गया जिसे उसने जीना नहीं चुना था।
भारत की पोर्न समस्या
अर्चिता फुकन मामला एक अन्य मुद्दे से गहराई से जुड़ा हुआ है जिसका भारत को अभी तक ठीक से सामना नहीं करना है: अश्लील साहित्य और इसकी सांस्कृतिक वर्जनाएँ।
यद्यपि भारत में पोर्नोग्राफी का उपभोग स्पष्ट रूप से अवैध नहीं है, फिर भी इसके उत्पादन, वितरण और प्रसारण को विनियमित किया जाता है, जो अक्सर असंगत होता है।
फिर भी, वास्तविक और नकली दोनों प्रकार की सामग्री डिजिटल स्पेस में भरी पड़ी है।
लीक हुए सेक्सटेप्स और निजी वीडियो से लेकर एआई-जनरेटेड सामग्री तक, यह ऐप्स, फोरम और सोशल प्लेटफॉर्म पर बिना किसी रोक-टोक के फैलती है।
भारत दुनिया भर में पोर्न देखने वालों में सबसे आगे है। फिर भी, सेक्स एक वर्जित विषय बना हुआ है।
मनोवैज्ञानिक श्रेया कौल ने कहा: "यह वर्जित है, इसे नापसंद किया जाता है, इसे अश्लील कहा जाता है।
"विचारधाराओं में टकराव है, मानो किसी की यौन गतिविधि और यौन जीवन सीधे तौर पर उसकी नैतिकता, संस्कृति और समाज में उसकी स्थिति से जुड़ा हुआ है।"
इस सांस्कृतिक चुप्पी ने एक शून्य पैदा कर दिया है।
व्यापक यौन शिक्षा के अभाव में, कई युवा जानकारी के प्राथमिक स्रोत के रूप में पोर्न देखते हैं। लेकिन वे जो देखते हैं वह वास्तविकता से कोसों दूर है।
पोर्नोग्राफी स्क्रिप्टेड, स्टाइलाइज़्ड और कमोडिटीकृत होती है। यह सहमति, अंतरंगता या भावनात्मक जुड़ाव के बारे में कुछ नहीं सिखाती।
कौल ने कहा: "चाहे वे इसे स्वीकार करें या विद्रोह, संतुष्टि या जिज्ञासा के रूप में देखें, अधिकांश लोग इसे देखेंगे, यहां तक कि वे भी जो सार्वजनिक रूप से इसकी निंदा करते हैं।"
अर्चिता फुकन मामले में ऑनलाइन प्रतिक्रिया तीव्र और निर्लज्ज थी।
उनके इंस्टाग्राम टिप्पणी अनुभाग अधिक “स्पष्ट सामग्री”, अश्लील लिंक और अपमानजनक टिप्पणियों के अनुरोधों से भरे हुए थे।
भारत में कामुकता, विशेषकर महिलाओं की कामुकता, अभी भी शर्म के माध्यम से नियंत्रित की जाती है।
जब कोई व्यक्ति, चाहे वह डीपफेक ही क्यों न हो, उस ढांचे को तोड़ता है, तो समाज तुरंत उसे दंडित करने, उसका मजाक उड़ाने या कल्पना करने लगता है।
नकली व्यक्तित्व एक काल्पनिक खेल का मैदान बन गया और असली महिला को आघात सहना पड़ा।
डीपफेक: पहचान के लिए एक डिजिटल खतरा
क्या बनाता है deepfakes विशेष रूप से खतरनाक है उनकी विश्वसनीयता।
स्पष्ट फोटो संपादन या अपरिष्कृत फोटोशॉप कार्यों के विपरीत, एआई-जनित सामग्री अब आश्चर्यजनक सटीकता के साथ हावभाव, आवाज, चेहरे के भाव, यहां तक कि आंखों की गति की भी नकल कर सकती है।
इसने कई बार देखा है बॉलीवुड सेलिब्रिटी इसका शिकार हो जाते हैं।
फैसल कावूसा, टेकआर्क, ने बताया: “डीपफेक और एआई सामान्य रूप से हर दिन परिष्कृत होते जा रहे हैं।
"डिजिटल उपयोगकर्ताओं के रूप में हम सभी को इस बात को लेकर बेहद सावधान रहना होगा कि हम अपनी जानकारी जैसे तस्वीरें और वीडियो कैसे साझा कर रहे हैं, यहां तक कि निजी मंडलियों में भी।"
जिस काम के लिए पहले कुशल ग्राफ़िक डिज़ाइनरों की एक टीम की ज़रूरत होती थी, अब वह काम एक किशोर भी कर सकता है जिसके पास स्मार्टफ़ोन और इंटरनेट की सुविधा हो। ये उपकरण कितने सुलभ और उन्नत हो गए हैं, इसका अंदाज़ा इसी से लगाया जा सकता है।
महिलाओं के लिए, विशेषकर जो सोशल मीडिया पर सक्रिय हैं, जोखिम और भी बढ़ जाता है।
एक साधारण सेल्फी को मिनटों में चुराया, बदला और अश्लील सामग्री में बदला जा सकता है। और एक बार जब वह ऑनलाइन हो जाती है, तो नुकसान अपरिवर्तनीय होता है।
कावूसा ने आगे कहा: "यूट्यूब पर किसी सेलिब्रिटी के इंटरव्यू का इस्तेमाल डीपफेक बनाने के लिए किया जा सकता है। इसके लिए हमें बेहतर सिस्टम बनाने की ज़रूरत है।"
इसके परिणाम प्रतिष्ठा से कहीं आगे तक जाते हैं। पीड़ितों को वास्तविक दुनिया में भी इसके परिणाम भुगतने पड़ते हैं, उत्पीड़न और साइबर बदमाशी से लेकर मानसिक स्वास्थ्य समस्याओं और सामाजिक अलगाव तक। और कई मामलों में, कोई कानूनी उपाय भी नहीं होता।
भारत के साइबर कानून
भारत के मौजूदा साइबर कानूनोंदो दशक पहले तैयार किए गए इन दिशानिर्देशों को कभी भी आज के डिजिटल दुरुपयोग के पैमाने और परिष्कार से निपटने के लिए तैयार नहीं किया गया था।
हालांकि आईटी अधिनियम की धाराएं साइबर मानहानि और अश्लील सामग्री से निपटने के लिए हैं, लेकिन वे डीपफेक या एआई-जनित पोर्नोग्राफी से निपटने के लिए पर्याप्त नहीं हैं।
विशेषज्ञों का तर्क है कि प्लेटफॉर्म की जवाबदेही महत्वपूर्ण है।
सोशल मीडिया कंपनियाँ अक्सर यह दावा करके ज़िम्मेदारी से बच निकलती हैं कि वे सिर्फ़ मध्यस्थ हैं। लेकिन अर्चिता फुकन का मामला दिखाता है कि सोशल मीडिया प्लेटफ़ॉर्म प्रचार-प्रसार में केंद्रीय भूमिका निभाते हैं।
कावूसा ने कहा, "सबसे पहले, हमें सभी प्लेटफार्मों को जवाबदेही के दायरे में लाना होगा और उन खामियों को दूर करना होगा जो उन्हें जिम्मेदारी से बचने का मौका देती हैं।"
सीएमआर के उद्योग अनुसंधान समूह के उपाध्यक्ष प्रभु राम का मानना है कि भारत को तत्काल विधायी सुधार की आवश्यकता है:
अर्चिता फुकन डीपफेक मामला इस बात की स्पष्ट याद दिलाता है कि एआई को किस तरह से हथियार बनाया जा सकता है।
"डीपफेक के बढ़ते खतरे से प्रभावी ढंग से निपटने के लिए, दुर्भावनापूर्ण उपयोग को आपराधिक बनाने, एआई-जनित सामग्री की पारदर्शी लेबलिंग को अनिवार्य करने और पता लगाने और हटाने के लिए प्लेटफार्मों को जवाबदेह बनाने के लिए स्पष्ट कानून बनाने की आवश्यकता है।"
राम ने आगे कहा कि पीड़ितों की सुरक्षा के लिए तंत्र, डीपफेक पहचान उपकरणों में निवेश और ऐसे खतरों की वैश्विक प्रकृति से निपटने के लिए अंतर्राष्ट्रीय सहयोग की आवश्यकता है।
मौन और शर्म के बीच की खाई
अर्चिता फुकन का मामला एक चेतावनी है। यह हमें बताता है कि कोई भी, चाहे वह आपकी बहन हो, आपका साथी हो या आपका दोस्त, डिजिटल शोषण का शिकार हो सकता है। बस कुछ क्लिक की ज़रूरत है।
इंटरनेट अब अभिव्यक्ति के लिए सुरक्षित जगह नहीं रहा। यह तेज़ी से शोषण का अड्डा बनता जा रहा है, और समाज, कानून प्रवर्तन एजेंसियां और सरकारें अभी भी इससे निपटने की कोशिश कर रही हैं।
अग्रवाल ने कहा, ‘‘इस मामले से एक बहुत ही महत्वपूर्ण तथ्य सामने आया है।
"जब हम ऑनलाइन सामग्री देखते हैं तो हमें अपने दिमाग का इस्तेमाल करना चाहिए और यह सुनिश्चित करना चाहिए कि जानकारी सत्य और सत्यापित है या नहीं।"
जब तक भारत अपने कानूनों को अद्यतन नहीं करता, युवाओं को शिक्षित नहीं करता, तथा प्लेटफार्मों को जवाबदेह नहीं बनाता, तब तक व्यक्तियों, विशेषकर महिलाओं पर, अपने खिलाफ डिजिटल दुनिया में स्वयं की सुरक्षा का भार बना रहेगा।
अर्चिता फुकन की कहानी महज एक और डीपफेक विवाद नहीं है; यह डिजिटल युग में मानवाधिकार का मुद्दा है।
यह बताता है कि कैसे व्यक्तिगत प्रतिशोध, शक्तिशाली प्रौद्योगिकी और सामाजिक ताक-झांक के साथ मिलकर जीवन को बर्बाद कर सकता है।
जो उसके साथ हुआ, वह किसी के साथ भी हो सकता है।
एआई ने सामग्री निर्माण को लोकतांत्रिक बनाया है, लेकिन सामग्री विरूपण को भी। और कल्पना और वास्तविकता के बीच की रेखा पहले कभी इतनी पतली नहीं हुई।
यदि भारत अपने नागरिकों की सुरक्षा करना चाहता है तो उसे अभी कार्रवाई करनी होगी।
कानूनों में सुधार करें। उपयोगकर्ताओं को शिक्षित करें। पारदर्शिता की माँग करें। और सबसे ज़रूरी बात, पीड़ितों की बात सुनें, सिर्फ़ तब नहीं जब वे वायरल हो जाएँ, बल्कि उससे पहले जब नुकसान अपूरणीय हो जाए।
क्योंकि भ्रम के युग में, सत्य अब स्पष्ट नहीं रहा। इसके लिए संघर्ष करना होगा।
लोड हो रहा है ...