AI-आधारित डिजिटल हिंसा

डिजिटल हिंसा संकट का स्वरूप

• तेजी से बढ़ता दुरुपयोग: साइबरस्टॉकिंग, डॉक्सिंग, डीपफेक, उत्पीड़न, बिना सहमति के चित्र साझा करना तथा लैंगिक दुष्प्रचार सहित डिजिटल हिंसा सीमाओं और प्लेटफॉर्मों के माध्यम से विस्तृत हो रही है।
• AI एक उत्प्रेरक के रूप में
  • दुरुपयोग में तेजी: कृत्रिम बुद्धिमत्ता और ऑनलाइन गोपनीय डिजिटल हिंसा के निर्माण और प्रसार को और अधिक तेज कर रही हैं।
  • पहचानने में कठिनाई: AI-आधारित सामग्री की पहचान, ट्रेसिंग और हटाना कठिन होता जा रहा है, जिससे जवाबदेही कमजोर पड़ती है।
• कानूनी संरक्षण का अभाव
  • वैश्विक स्थिति: विश्व बैंक के अनुसार, विश्व के 40% से भी कम देशों में साइबर उत्पीड़न या साइबर अपराध कम करने से संबंधित कानून हैं।
  • असुरक्षा का पैमाना: परिणामस्वरूप लगभग 1.8 अरब महिलाएँ और लड़कियाँ ऑनलाइन हिंसा से कानूनी रूप से सुरक्षित नहीं हैं।

सार्वजनिक जीवन में महिलाओं पर प्रभाव

• उच्च-जोखिम समूह: सभी प्रकार के भेदभाव के उन्मूलन पर आधारित कन्वेंशन और संयुक्त राष्ट्र महिला आयोग के दिशा-निर्देश, तकनीक-सहायित लैंगिक-आधारित हिंसा पर विशेष रूप से ध्यान केंद्रित करते हैं, जिसका उद्देश्य उन्हें मौन रहने पर बाध्य करना होता है।
• पत्रकारों पर खतरे: प्रत्येक चार में से एक महिला पत्रकार को ऑनलाइन या शारीरिक हिंसा संबंधी धमकियाँ मिलती हैं।
• ऑफलाइन प्रभाव: यूएन वीमेन के अनुसार, डिजिटल हिंसा प्रायः ऑफलाइन हिंसा में परिवर्तित हो जाती है, जैसे- पीछा करना, यौन हिंसा और महिलाओं के प्रति हिंसा।

सुरक्षा और जवाबदेही में संरचनात्मक कमजोरियाँ

• कम रिपोर्टिंग: कई पीड़िताएँ सामाजिक उपेक्षा, प्रतिशोध के भय और संस्थाओं पर अविश्वास के कारण शिकायत दर्ज नहीं करातीं।
• कमजोर न्याय तंत्र: न्यायालय और प्रवर्तन एजेंसियाँ प्रायः डिजिटल हिंसा की जाँच या अभियोजन के लिए सक्षम नहीं होतीं, विशेषकर तब जब यह कई न्यायक्षेत्रों में विस्तृत हो।
• प्लेटफॉर्म दंडमुक्ति: तकनीकी कंपनियों की जवाबदेही न्यूनतम है और सुरक्षा मानक या प्रभावी सामग्री नियंत्रण प्रायः अपर्याप्त हैं।
• विखंडित दृष्टिकोण: यद्यपि 117 देशों ने डिजिटल हिंसा से निपटने के संबंध में पहलें की हैं, परंतु यह प्रयास न्यून और अपर्याप्त हैं।
• वैश्विक विधायी प्रतिक्रियाएँ: कुछ देशों ने सशक्त डिजिटल सुरक्षा कानून बनाए हैं—जैसे यूनाइटेड किंगडम का ऑनलाइन सुरक्षा कानून, मैक्सिको का लेय ओलिम्पिया, ऑस्ट्रेलिया का ऑनलाइन सुरक्षा कानून और यूरोपीय संघ का डिजिटल सुरक्षा अधिनियम।

डिजिटल हिंसा शासन के लिए चुनौती क्यों है

• अधिकार-आधारित शासन: डिजिटल हिंसा समानता, गरिमा, गोपनीयता, और सार्वजनिक जीवन में सुरक्षित भागीदारी के अधिकारों को कमजोर करती है।
• संस्थागत विश्वसनीयता: कमजोर संरक्षण तंत्र डिजिटल शासन, प्रवर्तन एजेंसियों और न्यायिक संस्थाओं में सार्वजनिक विश्वास कम करते हैं।
• प्रभाव: लैंगिक-आधारित डिजिटल हिंसा राजनीति, मीडिया और जन-विमर्श में महिलाओं की भागीदारी कम करती है, जिससे लोकतांत्रिक प्रक्रियाएँ कमजोर होती हैं।

भारत का शासन-परिप्रेक्ष्य

• कानूनी ढाँचा: भारत डिजिटल हिंसा से निपटने के लिए सूचना प्रौद्योगिकी अधिनियम 2000, डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम 2023, भारतीय दंड संहिता/भारतीय न्याय संहिता के साइबर उत्पीड़न संबंधी प्रावधान तथा राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल का उपयोग करता है।
• संस्थागत उपाय: राष्ट्रीय महिला आयोग साइबर प्रयोगशालाएँ, हेल्पलाइन और जनजागरूकता कार्यक्रम संचालित करता है।
• प्रणालीगत अंतराल: भारत में डिजिटल साक्षरता की कमी, साइबर प्रकोष्ठों की सीमित क्षमता और AI-निर्मित डीपफेक का वर्तमान कानूनों की तुलना में तेजी से बढ़ना, महत्त्वपूर्ण चुनौतियाँ प्रस्तुत करता है।

वैश्विक मानक

• UN मानदंड: सभी प्रकार के भेदभाव के उन्मूलन पर आधारित कन्वेंशन और संयुक्त राष्ट्र महिला आयोग के दिशा-निर्देश, तकनीक-सहायता आधारित लैंगिक-आधारित हिंसा पर विशेष रूप से ध्यान केंद्रित करते हैं।
• AI नैतिकता: AI नैतिकता के संदर्भ में, यूनेस्को की कृत्रिम बुद्धिमत्ता पर अनुशंसाएँ सुरक्षित और अधिकार-आधारित AI प्रणालियों को प्रोत्साहित करती हैं।

DOWNLOAD PDF