नैतिक उपयोग हेतु AI समिति

संदर्भ

कर्नाटक सरकार ने शासन में कृत्रिम बुद्धिमत्ता (AI) के सुरक्षित, नैतिक और पारदर्शी उपयोग के लिए एक ढाँचा तैयार करने हेतु उत्तरदायी कृत्रिम बुद्धिमत्ता (AI) पर समिति का गठन किया है।

उत्तरदायी कृत्रिम बुद्धिमत्ता (AI) पर समिति के बारे में

• कर्नाटक ने सार्वजनिक शासन प्रणालियों में AI के सुरक्षित, जवाबदेह और पारदर्शी उपयोग को सुनिश्चित करने के लिए नीति ढाँचा तैयार करने हेतु इस समिति का गठन किया है।
• उद्देश्य: समिति का उद्देश्य एक उत्तरदायी AI नीति और कार्यान्वयन रोडमैप विकसित करना है, जो नवाचार को बढ़ावा देने के साथ-साथ सरकारी सेवाओं में निष्पक्षता, पारदर्शिता, जवाबदेही और नागरिकों के अधिकारों की सुरक्षा सुनिश्चित करे।
• समिति की संरचना: इस पैनल के अध्यक्ष इन्फोसिस के सह-संस्थापक क्रिस गोपालकृष्णन हैं और सह-अध्यक्ष डॉ. एन. मंजुला, सचिव, इलेक्ट्रॉनिक्स, सूचना प्रौद्योगिकी, जैव प्रौद्योगिकी और विज्ञान एवं प्रौद्योगिकी विभाग, कर्नाटक सरकार हैं।
• समिति का अधिदेश
  • उत्तरदायी AI नीति ढाँचा विकसित करना: शासन में उपयोग होने वाली AI प्रणालियों को पारदर्शी, जवाबदेह और सुरक्षित बनाए रखने के लिए एक व्यापक नीति और कार्यान्वयन रोडमैप तैयार करना, जो राष्ट्रीय दिशानिर्देशों और वैश्विक सर्वोत्तम प्रथाओं के अनुरूप हो।
  • शासन और जोखिम सुरक्षा उपाय स्थापित करना: जोखिम-वर्गीकरण तंत्र तैयार करना, उच्च जोखिम वाली AI अनुप्रयोगों का नियमन करना, डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम के अंतर्गत डेटा गोपनीयता सुनिश्चित करना तथा ऑडिट, साइबर सुरक्षा और खरीद मानकों की सिफारिश करना।

AI के नैतिक उपयोग के लिए दिशानिर्देशों की आवश्यकता

• एल्गोरिथ्मिक पक्षपात और भेदभाव को रोकना: शासन में उपयोग होने वाली AI प्रणालियों में पक्षपात और भेदभावपूर्ण प्रोफाइलिंग के खिलाफ सुरक्षा उपाय होने चाहिए, विशेषकर कल्याण वितरण, भर्ती और पुलिसिंग जैसे संवेदनशील क्षेत्रों में।
• डेटा गोपनीयता और सुरक्षा सुनिश्चित करना: नागरिकों के व्यक्तिगत डेटा की सुरक्षा के लिए स्पष्ट दिशानिर्देश आवश्यक हैं तथा AI प्रणालियों को डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम के अनुरूप बनाना जरूरी है, ताकि उत्तरदायी डेटा शासन सुनिश्चित हो सके।
• पारदर्शिता और जवाबदेही को बढ़ावा देना: नैतिक AI ढाँचे में स्वचालित निर्णय-निर्माण से जुड़े सार्वजनिक सेवाओं में स्पष्टीकरण, पारदर्शिता और मानवीय निगरानी अनिवार्य होनी चाहिए।
• उभरती AI तकनीकों से उत्पन्न जोखिमों का समाधान: डीपफेक, डेटा में बदलाव और जनरेटिव AI के दुरुपयोग जैसे जोखिमों को कम करने के लिए दिशानिर्देश आवश्यक हैं, क्योंकि ये डिजिटल शासन में विश्वास को कमजोर कर सकते हैं।

समिति 60 दिनों के भीतर अंतरिम रिपोर्ट और 90 दिनों के भीतर अंतिम सिफारिशें प्रस्तुत करेगी, जिसमें सरकारी विभागों में उत्तरदायी AI के उपयोग के लिए एक रोडमैप निर्धारित किया जाएगा।

DOWNLOAD PDF