ग्रोक(Grok) मामले पर: स्पष्ट चित्र

संदर्भ:

X (जिसे पहले ट्विटर के नाम से जाना जाता था) द्वारा विकसित जनरेटिव एआई चैटबॉट ग्रोक ने ओपनएआई और गूगल जैसी कंपनियों द्वारा अपनाई गई सुरक्षा उपायों के बिना कार्य करने के कारण वैश्विक चिंताएं उत्पन्न कर दी हैं।

ग्रोक का “अद्वितीय” सेवा प्रस्ताव

• लाईसेज़-फ़ायर डिज़ाइन(Laissez-Faire Design): ग्रोक सामान्य ज्ञान संबंधी और सतर्क रेलिंगों से बचकर एक अहस्तक्षेप-फ़ायर दृष्टिकोण का पालन करता है।
• मौखिक दुर्व्यवहार का सामान्यीकरण: इस विकल्प ने राजनेताओं और मशहूर हस्तियों का खुलेआम अपमान करने जैसे व्यवहारों को बढ़ावा दिया है।
• यौन शोषण की ओर बढ़ता कदम: इससे भी अधिक चिंताजनक बात यह है कि इसने महिलाओं की बिना सहमति के, यौन रूप से स्पष्ट तस्वीरें बनाने के अनुरोधों का समर्थन किया है।

चिंताजनक व्यवहार

• नए साल पर बढ़ोत्तरी: नए साल की पूर्व संध्या के बाद, ग्रोक ने बार-बार बिना सहमति के यौन रूप से उत्तेजक और स्पष्ट चित्र का निर्माण किया है।
• जनता और राज्य के दबाव की अवहेलना: जनता के आक्रोश तथा भारत और फ्रांस सहित विभिन्न सरकारों द्वारा सुरक्षा उपायों की मांग के बावजूद यह आचरण जारी रहा।
• इस कृत्य की आपराधिक प्रकृति: इस प्रकार के चित्र का निर्माण न केवल आपत्तिजनक है बल्कि आपराधिक प्रकृति का भी है।

प्लेटफ़ॉर्म स्वामी की प्रतिक्रिया

• जवाबदेही का महत्व कम करना: X के मालिक एलोन मस्क ने स्वैच्छिक आत्म-चित्रण को अजनबियों की सहमति के बिना उनकी यौन छवियां बनाने के बराबर मानकर इस मुद्दे को कम करके आंका है।

भारत का नियामक रुख

• बंद करने की आधिकारिक मांग: भारत की केंद्र सरकार ने सूचना प्रौद्योगिकी अधिनियम 2000 (धारा 66ई और 67) और भारतीय न्याय संहिता का हवाला देते हुए, जो महिलाओं की गरिमा और निजता की रक्षा करते हैं, X से इस तरह की छवि निर्माण बंद करने की मांग की है।
• अपराध की मान्यता: इसने महिलाओं की बिना सहमति के यौन रूप से स्पष्ट छवियों को उत्पन्न करने की आपराधिक प्रकृति को स्पष्ट रूप से उजागर किया है।
• विश्वसनीयता में कमी: हालाँकि, महिलाओं के विरुद्ध ऑनलाइन यौन हिंसा और धमकियों से निपटने में पिछली विफलताओं से प्रवर्तन की समग्र विश्वसनीयता कमजोर हो जाती है।

ग्रोक के प्रभाव – लैंगिक भेदभाव और कॉर्पोरेट दण्डमुक्ति

• ऑनलाइन शत्रुता में वृद्धि: ग्रोक के व्यवहार ने डिजिटल जगत में महिलाओं और लैंगिक अल्पसंख्यकों के प्रति शत्रुता को बढ़ावा दिया है।
• दंडमुक्ति की संस्कृति: मुखर महिलाओं के विरुद्ध यौन हिंसा और जान से मारने की धमकियां ऑनलाइन और ऑफलाइन दोनों ही तरह से बिना किसी खास परिणाम के जारी हैं।
• प्रणालीगत सुरक्षा विफलता: ये पैटर्न प्लेटफॉर्म और राज्यों की कमजोर समूहों को प्रभावी ढंग से सुरक्षा प्रदान करने में असमर्थता को उजागर करते हैं।
• डिजिटल उपनिवेशवाद: ये कंपनियां अक्सर अंतरराष्ट्रीय कानूनों से मुक्त महसूस करती हैं क्योंकि वे अमेरिकी भू-राजनीतिक शक्ति द्वारा संरक्षित हैं, इस रवैये को “डिजिटल उपनिवेशवाद” के रूप में वर्णित किया गया है।
• कृत्रिम बुद्धिमत्ता की शक्ति का अंधाधुंध उपयोग: यह दंडमुक्ति शक्तिशाली सार्वजनिक रूप से उपलब्ध कृत्रिम बुद्धिमत्ता उपकरणों की जवाबदेही रहित तैनाती को सक्षम बनाती है।

आगे की राह

• हटाने के आदेशों से परे: सरकार को हटाने की मांगों से आगे बढ़कर उन लोगों पर सक्रिय रूप से मुकदमा चलाना चाहिए जो बिना सहमति के अंतरंग छवियों को प्रोत्साहित करते हैं या प्रसारित करते हैं।
• कृत्रिम बुद्धिमत्ता उपकरणों तक जिम्मेदार पहुँच: जैसे-जैसे जनरेटिव एआई व्यापक रूप से उपलब्ध होता जा रहा है, इसके उपयोग को नैतिक संयम द्वारा निर्देशित किया जाना चाहिए ताकि नुकसान पहुंचाने वाले दुरुपयोग को रोका जा सके।
• अनुकरणीय कार्रवाई के माध्यम से निवारण: भविष्य में दुरुपयोग को रोकने के लिए उल्लंघनकर्ताओं के स्पष्ट उदाहरण प्रस्तुत करके जवाबदेही प्रदर्शित की जानी चाहिए।

निष्कर्ष

अनियंत्रित जनरेटिव एआई, जब कॉर्पोरेट गैरजिम्मेदारी के साथ जुड़ जाता है, तो लैंगिक नुकसान को बढ़ावा देता है और डिजिटल प्लेटफार्मों में विश्वास को कम करता है, जिससे सुरक्षा उपाय, कानूनी जवाबदेही और नैतिक संयम अपरिहार्य हो जाते हैं।

मुख्य परीक्षा हेतु अभ्यास प्रश्न: प्रश्न: हाल ही में, सोशल मीडिया प्लेटफॉर्म X द्वारा विकसित जनरेटिव एआई चैटबॉट ग्रोक पर अश्लील चित्रों और अपमानजनक संदेशों को उत्पन्न करने में संलिप्तता के कारण सवाल उठ रहे हैं। ऑनलाइन उत्पीड़न और लिंग आधारित हिंसा के संदर्भ में ग्रोक जैसे अनियमित एआई प्लेटफॉर्म द्वारा उत्पन्न चुनौतियों पर चर्चा कीजिए। सरकारों और निगमों को जवाबदेही सुनिश्चित करने और उपयोगकर्ताओं, विशेष रूप से महिलाओं को नुकसान से बचाने के लिए इन मुद्दों को कैसे संबोधित करना चाहिए? (15 अंक, 250 शब्द)

DOWNLOAD PDF