सहायता समूह एआई-जनित 'गरीबी पोर्न' फर्जी छवियों का उपयोग कर रहे हैं

अत्यधिक गरीबी और यौन हिंसा से बचे लोगों को दर्शाती एआई-जनित छवियां स्टॉक फोटो साइटों पर तेजी से दिखाई दे रही हैं और प्रमुख स्वास्थ्य एनजीओ द्वारा उपयोग की जा रही हैं, जिससे विशेषज्ञों ने "गरीबी पोर्न" के आधुनिक रूप के बारे में चेतावनी दी है।

नूह अर्नोल्ड, फेयरपिक्चर, बताया गार्जियन:

"हर जगह लोग इसका इस्तेमाल कर रहे हैं। कुछ लोग सक्रिय रूप से एआई इमेजरी का इस्तेमाल कर रहे हैं, और कुछ लोग, हम जानते हैं कि वे कम से कम प्रयोग तो कर ही रहे हैं।"

एंटवर्प स्थित उष्णकटिबंधीय चिकित्सा संस्थान के शोधकर्ता आर्सेनी एलेनिचेव, जो वैश्विक स्वास्थ्य संबंधी छवियों का अध्ययन करते हैं, ने कहा कि ये दृश्य गरीबी के परिचित प्रतीकों की नकल करते हैं।

उन्होंने बताया: "ये चित्र गरीबी के दृश्य व्याकरण को दर्शाते हैं - खाली प्लेट वाले बच्चे, फटी हुई मिट्टी, रूढ़िवादी दृश्य।"

एलेनिचव ने भूख और यौन हिंसा के खिलाफ सोशल मीडिया अभियानों में उपयोग की जाने वाली 100 से अधिक एआई-जनित छवियां एकत्र की हैं।

इनमें अत्यधिक अतिरंजित दृश्य शामिल हैं, जैसे कि कीचड़ भरे पानी में दुबके हुए बच्चे या शादी की पोशाक पहने एक अफ्रीकी लड़की जिसके चेहरे पर आंसू की लकीरें हैं।

एक टिप्पणी में लैंसेट ग्लोबल हेल्थएलेनिचव ने इस घटना को "गरीबी पोर्न 2.0" के रूप में वर्णित किया।

हालांकि इसके इस्तेमाल के सटीक पैमाने को मापना मुश्किल है, लेकिन विशेषज्ञों का कहना है कि यह बढ़ रहा है। बजट की कमी और वास्तविक फ़ोटोग्राफ़ी के लिए सहमति लेने की चिंताओं ने इस चलन को बढ़ावा दिया है।

एलेनिचव ने कहा: "यह बिल्कुल स्पष्ट है कि विभिन्न संगठन वास्तविक फोटोग्राफी के बजाय सिंथेटिक छवियों पर विचार करना शुरू कर रहे हैं, क्योंकि यह सस्ता है और आपको सहमति और बाकी सब चीजों के बारे में चिंता करने की आवश्यकता नहीं है।"

एडोब स्टॉक और फ्रीपिक जैसी वेबसाइटें "गरीबी" जैसे खोज शब्दों के अंतर्गत कई एआई-जनरेटेड छवियों को होस्ट करती हैं।

कई पोस्टों पर इस तरह के कैप्शन हैं, जैसे "शरणार्थी शिविर में फोटोरिअलिस्टिक बच्चा", "कचरे से भरी नदी में तैरते एशियाई बच्चे" और "अफ्रीकी गांव में युवा अश्वेत बच्चों को चिकित्सा परामर्श प्रदान करते कोकेशियान श्वेत स्वयंसेवक।"

एलेनिचव ने आगे कहा: "वे बहुत नस्लवादी हैं। उन्हें इन्हें कभी प्रकाशित ही नहीं होने देना चाहिए क्योंकि ये अफ़्रीका, या भारत, या आप जो भी कहें, उसके बारे में सबसे घटिया रूढ़िवादिता है।"

फ्रीपिक के सीईओ जोआकिन अबेला के अनुसार, प्लेटफ़ॉर्म स्वयं इस बात के लिए ज़िम्मेदार नहीं हैं कि छवियों का उपयोग कैसे किया जाता है। तस्वीरें प्लेटफ़ॉर्म के योगदानकर्ताओं के वैश्विक समुदाय द्वारा तैयार की जाती हैं, जो अपनी छवियों को खरीदने पर लाइसेंस शुल्क कमाते हैं।

उन्होंने कहा कि फ्रीपिक ने वकीलों और सीईओ जैसे पेशेवर चित्रों में विविधता को बढ़ावा देकर अपने पुस्तकालय में पूर्वाग्रह को दूर करने का प्रयास किया है, लेकिन उन्होंने स्वीकार किया कि ग्राहकों की मांग ही मुख्य रूप से यह तय करती है कि क्या बनाया और बेचा जाएगा।

एआई-जनित दृश्यों का उपयोग पहले से ही गैर सरकारी संगठनों द्वारा किया जा रहा है।

2023 में, प्लान इंटरनेशनल की डच शाखा ने बाल विवाह के खिलाफ एक अभियान वीडियो जारी किया, जिसमें एक काली आंख वाली लड़की, एक वृद्ध व्यक्ति और एक गर्भवती किशोरी की एआई-जनरेटेड छवियों का उपयोग किया गया।

संयुक्त राष्ट्र ने यूट्यूब पर एक वीडियो भी पोस्ट किया जिसमें संघर्ष के दौरान यौन हिंसा के एआई-जनित "पुनर्प्रस्तुतिकरण" को दिखाया गया था, जिसमें एक बुरुंडी महिला की गवाही भी शामिल थी जिसमें उसने 1993 में तीन पुरुषों द्वारा उसके साथ किए गए बलात्कार का वर्णन किया था। बाद में वीडियो को हटा दिया गया।

संयुक्त राष्ट्र शांति सेना के प्रवक्ता ने कहा: "विचाराधीन वीडियो, जो एक तेजी से विकसित हो रहे उपकरण का उपयोग करके एक वर्ष पहले बनाया गया था, को हटा दिया गया है, क्योंकि हमारा मानना ​​है कि यह एआई का अनुचित उपयोग दर्शाता है, और सूचना की अखंडता, वास्तविक फुटेज और लगभग वास्तविक कृत्रिम रूप से उत्पन्न सामग्री के सम्मिश्रण के संबंध में जोखिम पैदा कर सकता है।

“संयुक्त राष्ट्र संघर्ष-संबंधी यौन हिंसा के पीड़ितों को समर्थन देने की अपनी प्रतिबद्धता पर अडिग है, जिसमें नवाचार और रचनात्मक वकालत भी शामिल है।”

अर्नोल्ड ने कहा कि एआई इमेजरी का प्रसार वैश्विक स्वास्थ्य में नैतिक प्रतिनिधित्व के बारे में लंबे समय से चली आ रही बहस का परिणाम है:

"माना जाता है कि, बिना सहमति के तैयार एआई विज़ुअल्स लेना आसान है, क्योंकि वे वास्तविक लोग नहीं हैं।"

एनजीओ संचार सलाहकार केट कार्डोल ने कहा कि ये तस्वीरें चिंताजनक हैं:

"मुझे इस बात से दुःख होता है कि गरीबी का सामना कर रहे लोगों के अधिक नैतिक प्रतिनिधित्व के लिए लड़ाई अब अवास्तविकता तक पहुंच गई है।"

विशेषज्ञ चेतावनी देते हैं कि जनरेटिव एआई अक्सर मौजूदा तकनीकों का पुनरुत्पादन करता है। सामाजिक पूर्वाग्रहों.

एलेनिचव ने कहा कि वैश्विक स्वास्थ्य अभियानों में ऐसी छवियों का व्यापक उपयोग इन समस्याओं को बढ़ा सकता है, क्योंकि उन्हें भविष्य के एआई प्रशिक्षण डेटासेट में शामिल किया जा सकता है, जिससे पूर्वाग्रह बढ़ सकता है।

प्लान इंटरनेशनल के एक प्रवक्ता ने पुष्टि की कि एनजीओ ने अब “व्यक्तिगत बच्चों को चित्रित करने के लिए एआई का उपयोग करने के खिलाफ सलाह देने वाले मार्गदर्शन को अपनाया है” और कहा कि 2023 के अभियान में “वास्तविक लड़कियों की गोपनीयता और गरिमा” की रक्षा के लिए एआई को नियोजित किया गया है।