अग्रणी वैश्विक मानवाधिकार संगठन एमनेस्टी इंटरनेशनल एक का उपयोग करने के लिए अपनी पसंद का बचाव कर रहा है एआई छवि जनरेटर विरोध प्रदर्शन और पुलिस की बर्बरता को दर्शाने के लिए कोलो मेंmbia. एमनेस्टी ने गिज्मोदो को बताया कि उसने मानव अधिकारों के हनन को दर्शाने के लिए एआई जनरेटर का इस्तेमाल किया कमजोर प्रदर्शनकारियों की गुमनामी को बनाए रखें। विशेषज्ञों हालांकि, डर है तकनीक का उपयोग पहले से ही हिमायत करने वाले समूहों की विश्वसनीयता को कम कर सकता है सत्तावादी सरकारों द्वारा घेर लिया गया कि ढालना वास्तविक की प्रामाणिकता पर संदेह फुटेज।

एमनेस्टी इंटरनेशनल का नॉर्वे क्षेत्रीय खाता पोस्ट किया गया कोलो में एक प्रमुख विरोध की दो साल की सालगिरह को स्वीकार करते हुए सप्ताहांत में एक ट्वीट थ्रेड में तीन छवियांएमबीआईए जहां पुलिस प्रदर्शनकारियों के साथ बर्बरता की और प्रतिबद्ध “गंभीर मानवाधिकारों का उल्लंघन,”संगठन ने लिखा। एक छवि में कवच पहने पुलिस अधिकारियों की भीड़ को दर्शाया गया है, अन्य विशेषताएं एक अधिकारी जिसके चेहरे पर लाल धब्बा है। एक अन्य छवि एक दिखाती है प्रदर्शनकारी को पुलिस द्वारा हिंसक तरीके से खदेड़ा जा रहा है। छवियां, जिनमें से प्रत्येक की अपनी विशेषता है एआई-जनित छवियों की स्पष्ट स्पष्ट कलाकृतियाँ नीचे बाएँ कोने पर एक छोटा सा नोट भी है: “कृत्रिम बुद्धि द्वारा निर्मित चित्रण। ”

टिप्पणीकारों ने छवियों के प्रति नकारात्मक प्रतिक्रिया व्यक्त की, कई लोगों ने एमेंस्टी द्वारा अक्सर एक तकनीक के उपयोग पर बेचैनी व्यक्त की के साथ जुड़े ऑडबॉल कला और मेमे मानवाधिकारों के हनन को चित्रित करने के लिए। एमनेस्टी ने गिजमोदो को यह कहते हुए पीछे धकेल दिया कि उसने घटनाओं को चित्रित करने के लिए एआई का उपयोग करने का विकल्प चुना “बिना किसी को खतरे में डाले जो मौजूद था।” एमनेस्टी का दावा है कि उसने कोलो में भागीदार संगठनों के साथ परामर्श कियाएमबीआईए और अंततः वास्तविक प्रदर्शनकारियों के चेहरे दिखाने के लिए तकनीक को गोपनीयता-संरक्षित विकल्प के रूप में उपयोग करने का निर्णय लिया।

“राष्ट्रीय हड़ताल में भाग लेने वाले कई लोगों ने अपने चेहरे ढके हुए थे क्योंकि वे राज्य सुरक्षा बलों द्वारा दमन और कलंक के अधीन होने से डरते थे,” एक एमनेस्टी के प्रवक्ता ने एक ईमेल में कहा। “जिन लोगों ने अपना चेहरा दिखाया, वे अभी भी जोखिम में हैं और कुछ को कोलंबियाई अधिकारियों द्वारा अपराधी बनाया जा रहा है।”

एमनेस्टी ने कहा कि एआई-जनित छवियां घटना को चित्रित करने के लिए एक आवश्यक विकल्प थीं क्योंकि कथित रूप से कई अधिकारों का हनन हुआ था। कोलो के बाद अंधेरे का आवरणmbian सुरक्षा बलों ने बिजली पहुंच काट दी। प्रवक्ता ने कहा कि संगठन किसी को गुमराह करने से बचने के प्रयास में एआई का उपयोग करके बनाई गई छवि के तल पर अस्वीकरण जोड़ा गया।

प्रवक्ता ने कहा, “हम मानते हैं कि अगर एमनेस्टी इंटरनेशनल ने विरोध प्रदर्शनों में भाग लेने वालों के असली चेहरों का इस्तेमाल किया होता, तो इससे उन्हें प्रतिशोध का खतरा होता।”

आलोचकों का कहना है कि अधिकारों का हनन करने वाले प्रामाणिक दावों को बदनाम करने के लिए एआई छवियों का उपयोग कर सकते हैं

गंभीर मानवाधिकार विशेषज्ञों ने गिजमोदो के साथ बात करते हुए एमनेस्टी पर पलटवार करते हुए दावा किया कि जेनेरेटिव एआई के उपयोग से परेशान करने वाली मिसाल कायम हो सकती है और मानवाधिकार अधिवक्ताओं की विश्वसनीयता को और कम कर सकती है।. सैम ग्रेगरी, जो नेतृत्व करता है गवाहवीडियो उपयोग पर केंद्रित एक वैश्विक मानवाधिकार नेटवर्क, ने कहा कि एमनेस्टी एआई छवियों ने अच्छे से अधिक नुकसान किया है।

ग्रेगरी ने गिज्मोदो को बताया, “हमने पिछले पांच साल 100 कार्यकर्ताओं और पत्रकारों और वैश्विक स्तर पर अन्य लोगों से बात करने में बिताए हैं, जो पहले से ही अपनी छवियों और वीडियो के अवैधीकरण का सामना कर रहे हैं।” ग्रेगरी ने कहा, तेजी से, अधिनायकवादी नेता मानवाधिकारों के उल्लंघन को दर्शाने वाले ऑडियो या वीडियो फुटेज के एक टुकड़े को तुरंत डीपफेक होने का दावा करके दफनाने की कोशिश करते हैं।

“यह पत्रकारों और मानवाधिकार रक्षकों पर ‘वास्तविक साबित’ करने के लिए सारा दबाव डालता है,” ग्रीजानाआरवाई ने कहा। “यह पूर्व हो सकता हैशून्य रूप से भी, सरकारें इसकी तैयारी कर रही हैं ताकि अगर कोई आपत्तिजनक फ़ुटेज सामने आए, वे दावा कर सकते हैं कि उन्होंने कहा कि ‘नकली फुटेज’ होने जा रहा था।

ग्रेगोरी ने मानवाधिकार मीडिया में दर्शाए गए व्यक्तियों को गुमनाम करने के महत्व को स्वीकार किया, लेकिन कहा कि एआई छवि जनरेटर का सहारा लिए बिना या “मीडिया प्रचार चक्रों में दोहन” के बिना दुर्व्यवहार को प्रभावी ढंग से प्रस्तुत करने के कई अन्य तरीके हैं। मीडिया विद्वान व लेखक रोलैंड मेयर ने सहमति व्यक्त की और कहा कि एमनेस्टी का एआई का उपयोग वास्तव में उन पत्रकारों और फोटोग्राफरों द्वारा किए गए काम का “अवमूल्यन” कर सकता है जिन्होंने कोलम्बिया में प्रलेखित दुर्व्यवहार.

एक संभावित खतरनाक मिसाल

एमनेस्टी ने गिज्मोदो को बताया कि ऐसा नहीं है वर्तमान में एआई-जनित छवियों का उपयोग करने या इसके खिलाफ कोई नीति है, हालांकि एक प्रवक्ता ने कहा कि संगठन के नेता हैं दुरुपयोग की संभावना से अवगत रहें और तकनीक का संयम से उपयोग करने का प्रयास करें।

प्रवक्ता ने कहा, “वर्तमान में हम इसका उपयोग केवल तभी करते हैं जब यह मानवाधिकार रक्षकों की रक्षा के हित में हो।” “एमनेस्टी इंटरनेशनल गलत सूचना के जोखिम से अवगत है यदि इस उपकरण का गलत तरीके से उपयोग किया जाता है।”

ग्रेगरी ने कहा कोई नियम या नीति आमनेsty के उपयोग के संबंध में लागू करता है ऐ महत्वपूर्ण साबित हो सकता है क्योंकि यह जल्दी से एक मिसाल कायम कर सकता है जिसका दूसरे लोग अनुसरण करेंगे।

“मानकों को स्थापित करने और इस तरह से उपकरणों का उपयोग करने के मामले में बड़े वैश्विक मानवाधिकार संगठनों की भूमिका के बारे में सोचना महत्वपूर्ण है, जिससे छोटे, स्थानीय समूहों को संपार्श्विक नुकसान नहीं होता है जो बहुत अधिक दबाव का सामना करते हैं और उनकी सरकारों द्वारा बार-बार लक्षित होते हैं। उन्हें बदनाम करने के लिए, ग्रेगरी ने कहा।