साइबर सुरक्षा उपायों के साथ जनरेटिव AI की सुरक्षा करना

जनरेटिव आर्टिफिशियल इंटेलिजेंस (Generative Artificial Intelligence) के बारे में

• संक्षेप में: यह एक प्रकार की AI तकनीक है, जो टेक्स्ट, इमेज, ऑडियो और सिंथेटिक डेटा सहित विभिन्न प्रकार की सामग्री का उत्पादन कर सकती है।
• अंतर्संबंधित: यह गहन शिक्षण, तंत्रिका नेटवर्क और मशीन लर्निंग तकनीकों का उपयोग करता है ताकि कंप्यूटर को ऐसी सामग्री तैयार करने में सक्षम बनाया जा सके, जो स्वायत्त रूप से मानव-निर्मित आउटपुट से मिलती जुलती हो।
  • उदाहरण: ChatGPT, DALL-E और Bard.
  • हाल के वर्षों में, जेनरेटिव एडवरसैरियल नेटवर्क (GAN), लार्ज लैंग्वेज मॉडल (LLM), जेनरेटिव प्री-ट्रेंड ट्रांसफॉर्मर (GPT), और इमेज जेनरेशन में प्रयोग के लिए उच्च निवेश देखा गया है। 
• परिणाम: जनरेटिव AI ने शिक्षा, बैंकिंग, स्वास्थ्य देखभाल और विनिर्माण जैसे विभिन्न क्षेत्रों को असाधारण रूप से बदल दिया है, इसने साइबर जोखिम और सुरक्षा के प्रतिमान को भी बदल दिया है। 
  • जनरेटिव AI उद्योग द्वारा वैश्विक सकल घरेलू उत्पाद को $7 से $10 ट्रिलियन तक बढ़ाने का अनुमान लगाया गया है, जनरेटिव AI समाधानों (जैसे नवंबर 2022 में ChatGPT) के विकास ने लाभ और हानि का एक दुष्चक्र शुरू कर दिया है।

जनरेटिव AI का महत्त्व

• रचनात्मकता और नवीनता: यह नई और अनूठी सामग्री के निर्माण में सक्षम बनाता है, चाहे वह इमेज, म्यूजिक या टेक्स्ट हो। उदाहरण:- 
  • स्वचालित पत्रकारिता (Automated Journalism): ChatGPT जैसी जनरेटिव AI समाचार आउटलेट्स के लिए लिखित सामग्री तैयार कर सकती है, घटनाओं, वित्तीय रिपोर्टों और स्पोर्ट्स की खबरों को तेजी से और सटीक रूप से दे सकती है, जिससे मानव पत्रकारों को गहन कहानियों एवं विश्लेषण पर ध्यान केंद्रित करने की छूट मिलती है।
  • क्लाउड (Claude), एंथ्रोपिक (Anthropic) द्वारा बनाया गया एक चैटबॉट है, जिसे प्रसिद्ध गीतों के बोल दोहराने के लिए बनाया जा सकता है। 
  • स्टेबिलिटी AI द्वारा निर्मित स्टेबल डिफ्यूजन (Stable Diffusion), दूसरों की छवियों की विशेषताओं को पुन: प्रस्तुत करता है, जिसमें गेट्टी (Getty) का वॉटरमार्क भी शामिल है, जिसके संग्रह पर इसे प्रशिक्षित किया गया था। 
• स्वचालन और दक्षता: यह सामग्री निर्माण की प्रक्रिया को स्वचालित करता है, जिससे समय और संसाधनों की बचत होती है। उदाहरण:-
  • ग्राफिक डिजाइन: AI लोगो, मार्केटिंग सामग्री और अन्य ग्राफिक्स बना सकता है, जिससे डिजाइनरों को तेजी से विचारों का प्रोटोटाइप बनाने एवं अवधारणाओं पर पुनरावृत्ति करने में सक्षम बनाया जा सकता है।
  • आर्किटेक्चर और इंजीनियरिंग: AI अंतरिक्ष के इष्टतम उपयोग, पर्यावरणीय प्रभाव और अभिरुचि अपील को ध्यान में रखते हुए भवन डिजाइन और शहरी योजनाएँ तैयार कर सकता है।
• वैयक्तिकरण और अनुकूलन: जनरेटिव मॉडल को विशिष्ट डेटा या प्राथमिकताओं पर प्रशिक्षित किया जा सकता है।
  • उदाहरण: जनरेटिव AI व्यक्तिगत छात्रों की सीखने की गति और शैली के अनुकूल अनुकूलित शैक्षिक सामग्री बना सकता है, जिससे शिक्षा अधिक सुलभ और प्रभावी हो सकती है।
• अन्वेषण और प्रेरणा: जनरेटिव AI विविध विविधताएँ उत्पन्न करके, रचनात्मक संभावनाओं की खोज करके और आगे की रचनात्मक खोज के लिए शुरुआती बिंदु के रूप में कार्य करके कलाकारों, डिजाइनरों और लेखकों को प्रेरणा प्रदान कर सकता है।
  • उदाहरण: OpenAI, जो शायद सबसे उन्नत जनरेटिव AI मॉडल बनाता है, का मूल्य लगभग $90 बिलियन है; Microsoft, इसका भागीदार, 3.2 ट्रिलियन डॉलर के बाजार पूँजीकरण के साथ दुनिया की सबसे मूल्यवान कंपनी बन गई है।

जनरेटिव AI को लेकर बढ़ती चिंताएँ

• गोपनीयता एवं सुरक्षा को खतरा: संज्ञानात्मक व्यवहार परिचालन के माध्यम से, गंभीर रूप से खतरनाक घटनाएँ सामने आई हैं, जिसमें वाइस-एक्टिवेशन खिलौने और गैजेट शामिल हैं, जो बच्चों में खतरनाक व्यवहार को प्रोत्साहित करते हैं और/या किसी की गोपनीयता तथा सुरक्षा के लिए गंभीर खतरा उत्पन्न करते हैं।
  • दूरस्थ और रियल टाइम की बायोमेट्रिक पहचान प्रणालियों (जैसे चेहरे की पहचान) ने हाल के दिनों में कई मौकों पर निजता के अधिकार को खतरे में डाल दिया है और व्यक्तियों को बड़े पैमाने पर खतरे में डाल दिया है।
• संगठनों की भेद्यता: अधिकांश संगठन सबसे बड़ी चुनौतियों के रूप में अनिर्धारित फिशिंग हमलों (37%), हमलों की मात्रा में वृद्धि (33%) और बढ़ती गोपनीयता चिंताओं (39%) का हवाला देते हैं।
• आपराधिक मामलों में वृद्धि: जनरेटिव AI के उपयोग में वृद्धि के साथ, आपराधिक मामले भी बढ़ रहे हैं।
  • अमेरिका में बढ़ रही AI आधारित साइबर फ्राड संबंधी घटनाओं के कारण अमेरिकी सीनेट में कृत्रिम बुद्धिमत्ता के हानिकारक प्रभाव के बारे में चिंता उत्पन्न कर दी थी।
• विनियमों में खामियाँ: हालाँकि AI के कारण बढ़ते साइबर अपराधों से निपटने के लिए कड़े नैतिक और विधायी ढाँचे पर कार्य चल रहा है, जनरेटिव AI को विनियमित करने में खामियाँ और औद्योगिक समझ की कमी बनी हुई है।
• नैतिक चिंताएँ: जनेरेटिव AI नैतिक चिंताओं को बढ़ाता है, विशेष रूप से सिंथेटिक मीडिया के दुरुपयोग, डीप फेक और बौद्धिक संपदा अधिकारों के संभावित उल्लंघन के संबंध में।
  • लार्ज लैंग्वेज मॉडल, न्यूरल ट्रांसलेशन, सूचना समझ और लर्निंग आधारित उन्नत मशीन के आगमन से अब सिंथेटिक मीडिया उत्पन्न करना संभव है, जिसे वास्तविक मीडिया से अलग करना बहुत मुश्किल हो सकता है, जिससे गंभीर नैतिक प्रभाव पड़ सकते हैं।
  • उदाहरण: नवंबर 2023 में, अभिनेत्री रश्मिका मंदाना का एक डीप फेक वीडियो सोशल मीडिया प्लेटफॉर्म पर व्यापक रूप से प्रसारित किया गया था।
• लैंगिक आधारित प्रभाव: स्वचालन के प्रभाव ‘अत्यधिक लैंगिक आधारित’ हैं, विशेष रूप से उच्च और मध्यम आय वाले देशों में लिपिकीय कार्यों में उनके अत्यधिक प्रतिनिधित्व के कारण स्वचालन से प्रभावित होने वाली महिलाओं की हिस्सेदारी दोगुनी से भी अधिक है।
• डिजिटल डिवाइड: जनरेटिव AI तकनीक ब्रॉडबैंड कनेक्टिविटी के साथ-साथ विद्युत की पहुँच एवं लागत पर निर्भर है।
• • वर्ष 2022 में, वैश्विक आबादी के एक-तिहाई (लगभग 2.7 बिलियन लोग) के पास अभी भी इंटरनेट तक पहुँच नहीं थी। 
• डेटासेट पूर्वाग्रह और सामान्यीकरण: जनरेटिव मॉडल उन प्रशिक्षण डेटा पर बहुत अधिक निर्भर करते हैं, जिनसे उन्हें अवगत कराया जाता है। यदि प्रशिक्षण डेटा पक्षपाती या सीमित है, तो उत्पन्न आउटपुट भी पक्षपाती होंगे। 
• गुणवत्ता और सुसंगतता: हालाँकि जनरेटिव मॉडल ने महत्त्वपूर्ण प्रगति की है, फिर भी वे ऐसे आउटपुट उत्पन्न करने में संघर्ष कर सकते हैं, जो लगातार उच्च गुणवत्ता, सुसंगतता और प्रासंगिक प्रासंगिकता प्रदर्शित करते हैं। 
  • जनरेटिव मॉडल विशेष रूप से जटिल इंजीनियरिंग एवं चिकित्सा निदान के संदर्भ में निम्न-गुणवत्ता और कम सटीक जानकारी भी उत्पन्न कर सकते हैं।

आर्टिफिशियल इंटेलिजेंस की चुनौतियों से निपटने के लिए की गई पहल

• बेलेचली घोषणा (Bletchley Declaration)
  • इस पर AI सुरक्षा शिखर सम्मेलन, 2023 में हस्ताक्षर किए गए हैं और यह AI जोखिमों का मुकाबला करने वाला पहला वैश्विक समझौता है, तथा दुनिया के प्रमुख AI खिलाड़ियों के बीच उच्च स्तरीय राजनीतिक सहमति और प्रतिबद्धता को दर्शाता है।
  • इस समझौते पर हस्ताक्षर करने वाले देशों में चीन, यूरोपीय संघ, फ्राँस, जर्मनी, भारत, संयुक्त अरब अमीरात, यूनाइटेड किंगडम और संयुक्त राज्य अमेरिका शामिल हैं।
• आर्टिफिशियल इंटेलिजेंस पर वैश्विक साझेदारी (Global Partnership on Artificial Intelligence- GPAI): वर्ष 2020 में, भारत ने 15 अन्य देशों के साथ मिलकर उभरती प्रौद्योगिकियों के जिम्मेदार उपयोग के लिए रूपरेखा स्थापित करने के लिए GPAI का गठन किया। 
• ग्लोबल एआई एथिक्स एंड गवर्नेंस ऑब्जर्वेटरी (Global AI Ethics and Governance Observatory): यह यूनेस्को की एक पहल है, जिसका उद्देश्य आर्टिफिशियल इंटेलिजेंस द्वारा उत्पन्न सबसे गंभीर चुनौतियों का समाधान खोजने के लिए नीति निर्माताओं, नियामकों, शिक्षाविदों, निजी क्षेत्र और नागरिक समाज के लिए एक वैश्विक संसाधन प्रदान करना है। 
  • यह AI को नैतिक और जिम्मेदारी से अपनाने के लिए देशों की तत्परता के बारे में जानकारी प्रदर्शित करता है।
  • यह AI एथिक्स एंड गवर्नेंस लैब की भी मेजबानी करता है, जो योगदान, प्रभावशाली अनुसंधान, टूलकिट और अच्छी प्रथाओं को एकत्र करता है।

नैतिक सिद्धांत (Ethical Principle)  यूनेस्को ने नवंबर 2021 में AI नैतिकता पर पहला वैश्विक मानक ‘आर्टिफिशियल इंटेलिजेंस की नैतिकता पर सिफारिश’ तैयार किया। इस ढाँचे को सभी 193 सदस्य राज्यों द्वारा अपनाया गया था।  पारदर्शिता एवं निष्पक्षता जैसे मौलिक सिद्धांतों की उन्नति के आधार पर, AI सिस्टम की मानवीय निगरानी के महत्त्व को याद रखते हुए, मानव अधिकारों और सम्मान की सुरक्षा सिफारिश की आधारशिला है।

• निजी हितधारकों की पहल: अमेजन, माइक्रोसॉफ्ट, मेटा, गूगल और OpenAI ने AI प्रौद्योगिकियों को विकसित करते समय सुरक्षा, रक्षा और विश्वास पर जोर देने के लिए एक स्वैच्छिक समझौते पर हस्ताक्षर किए हैं।
  • भारत में, नैसकॉम (Nasscom) AI के विकास में सभी हितधारकों के दायित्वों को सूचीबद्ध करते हुए एक रूपरेखा लेकर आया है।

AI के विकास के लिए भारत की पहल नीति आयोग का योगदान: नीति आयोग ‘आर्टिफिशियल इंटेलिजेंस के लिए राष्ट्रीय रणनीति’ चर्चा पत्र लेकर आया है, जो निजी क्षेत्र के सहयोग के माध्यम से देश में आर्टिफिशियल इंटेलिजेंस वाले उपकरणों पर अंतरराष्ट्रीय सम्मेलन (ICTAI) की स्थापना पर केंद्रित है।  ऐरावत (AIRAWAT): नीति आयोग भारत का पहला AI-विशिष्ट क्लाउड कंप्यूटिंग बुनियादी ढाँचा स्थापित करेगा,  जिसे AIRAWAT कहा जाएगा। आर्टिफिशियल इंटेलिजेंस रिसर्च, एनालिटिक्स और नॉलेज एसिमिलेशन प्लेटफॉर्म: यह एक क्लाउड कंप्यूटिंग प्लेटफॉर्म है, जिसका लक्ष्य AI के संबंध में भारत को उभरती अर्थव्यवस्थाओं में अग्रणी बनाना है। भारत का राष्ट्रीय AI पोर्टल: इसे वर्ष 2020 में लॉन्च किया गया था। यह कृत्रिम बुद्धिमत्ता से संबंधित विकास के लिए वन-स्टॉप डिजिटल प्लेटफॉर्म है। पोर्टल के साथ लॉन्च किए गए ‘रिस्पॉन्सिबल एआई फॉर यूथ’ कार्यक्रम का उद्देश्य AI का उपयोग करके सार्थक सामाजिक प्रभाव समाधान बनाने के लिए युवा छात्रों को कौशल और ज्ञान के साथ सशक्त बनाना है। फ्यूचरस्किल्स प्राइम प्रोग्राम (FutureSkills PRIME Programme): इसे MeitY द्वारा NASSCOM के साथ साझेदारी में लॉन्च किया गया था, यह AI सहित उभरती प्रौद्योगिकियों में IT पेशेवरों को पुनः कुशल बनाने के लिए एक व्यवसाय आधारित उपभोक्ता ढाँचा है।

आगे की राह 

• सुरक्षित डिजिटल स्पेस: लगातार विकसित हो रही प्रौद्योगिकी को अपनाकर इस AI-संचालित डिजिटल परिदृश्य में उभरते खतरों के खिलाफ अधिक मजबूत सुरक्षा ढाँचा बनाने की आवश्यकता है।
  • केरल पुलिस की साइबर डोम परियोजना (Cyber Dome Project) का उद्देश्य साइबर खतरों से निपटना और साइबर सुरक्षा बढ़ाना है। यह सार्वजनिक-निजी भागीदारी साइबर अपराधों को रोकने, जाँच में सहायता करने और ऑनलाइन सुरक्षा के बारे में सार्वजनिक जागरूकता बढ़ाने हेतु उन्नत प्रौद्योगिकी, खुफिया तथा सामुदायिक भागीदारी का लाभ उठाती है। 
• डिजिटल जागरूकता को बढ़ावा: डिजिटल परिदृश्य को कुशलतापूर्वक नेविगेट करने, विश्वसनीयता की पहचान करने और प्रमाणीकरण के लिए स्रोतों को सत्यापित करने हेतु डिजिटल जागरूकता को समायोजित करने की आवश्यकता है।
• • एआई फॉर ऑल (AI For All): यह भारत की AI रणनीति है, जो समावेशी विकास के लिए AI का लाभ उठाने पर केंद्रित है, जो भारत के ‘सामाजिक कल्याण के लिए AI’ दृष्टिकोण का प्रतिनिधित्व करती है। 
  • इसे वर्ष 2018 में नीति आयोग द्वारा तैयार किया गया था और इसमें पाँच मुख्य क्षेत्र शामिल हैं- कृषि, शिक्षा, स्वास्थ्य, स्मार्ट शहर/बुनियादी ढाँचा और परिवहन। 
• मजबूत वैश्विक पहल: इस तरह के बहुआयामी साइबर हमलों के बढ़ने के साथ, मजबूत पहल आवश्यक हो गई है। गोपनीय जानकारी, पहचान और यहाँ तक कि मानवाधिकारों की सुरक्षा के लिए सहयोगात्मक तरीकों के माध्यम से समाधान विकसित करना अब अनिवार्य हो गया है। 
• नीति-आधारित प्रयास: संस्थागत स्तर पर, AI-जनित सामग्री की पहचान करने के लिए वॉटरमार्किंग के रुख को बढ़ाने जैसे समाधानों के माध्यम से बढ़ती साइबर चुनौतियों का मुकाबला करने के लिए कठोर नीति-आधारित प्रयास महत्त्वपूर्ण हैं।
  • यह AI जनित सामग्री से साइबर खतरों को कम कर सकता है, उपभोक्ताओं को उचित कार्रवाई करने की चेतावनी दे सकता है।
• सहयोगात्मक दृष्टिकोण: सुरक्षा की भावना को बनाए रखने के लिए, व्यक्तियों और संगठनों को अपने व्यक्तिगत हितों एवं पहचान की सुरक्षा के लिए समुदायों को और सशक्त बनाने में सक्षम बनाने के लिए, सहयोगात्मक दृष्टिकोण अपनाने की आवश्यकता है।
  • AI संचालित दुनिया में साइबर सुरक्षा के लिए वास्तव में समग्र दृष्टिकोण हेतु, गैर-सरकारी संगठनों और अन्य आउटरीच संगठनों की महत्त्वपूर्ण भूमिका वांछित है।

DOWNLOAD PDF