सिंथेटिक मीडिया तथा एआई-जनित सामग्री की लेबलिंग

संदर्भ:

केंद्र सरकार ने सूचना प्रौद्योगिकी (IT) नियम, 2021 में संशोधन के माध्यम से एआई-जनित सामग्री (AI-generated content) की लेबलिंग को अनिवार्य बनाने का प्रस्ताव दिया है।

सिंथेटिक मीडिया

• क्या है?: यह कृत्रिम बुद्धिमत्ता (AI) का उपयोग करके बनाई गई छवियाँ, वीडियो या ऑडियो को संदर्भित करता है, जो प्रायः वास्तविक मीडिया से अविभेद्य (indistinguishable) प्रतीत होता है।
• डीपफेक – एआई-संचालित निर्माण: सिंथेटिक मीडिया का एक उपसमूह जहाँ डीप लर्निंग एक व्यक्ति के चेहरे, आवाज़ या हावभाव को दूसरे के अनुसार बदल देती है या अध्यारोपित (superimposes) कर देती है, जिससे अत्यधिक यथार्थवादी लेकिन इच्छानुसार कृत्रिम सामग्री बनती है।

सिंथेटिक मीडिया की चिंताएँ

• चुनावी पारदर्शिता के लिए खतरा: डीपफेक के प्रसार ने विशेष रूप से चुनावों जैसे राजनीतिक रूप से संवेदनशील अवधियों के दौरान चुनावी हेरफेर और गलत सूचना का भी उत्पन्न किया है।
  • हालाँकि 2024 में बड़े पैमाने पर व्यवधानों से बचा गया था, लेकिन लोकतांत्रिक विमर्श को कमज़ोर करने की एआई-जनित गलत सूचना की क्षमता एक गंभीर चिंता बनी हुई है।
• भ्रामक सामग्री का तीव्र प्रसार: एआई-जनित मिथ्या सूचना और विकृत दृश्य शीघ्र प्रसारित हो सकते हैं, जिससे सार्वजनिक विचारों को आकार देने में उनका असमान प्रभाव होता है।
• भ्रामक मीडिया का तकनीकी उन्नयन: फोटो-यथार्थवादी (photorealistic) और आश्वस्त करने वाली नकली सामग्री बनाने की तकनीक तेज़ी से सुधर रही है, जिससे उपयोगकर्ताओं के लिए वास्तविक और सिंथेटिक मीडिया के मध्य अंतर करना कठिन होता जा रहा है।
• सार्वजनिक छवि का दुरुपयोग: प्रसिद्ध लोगों ने प्रायः न्यायालयों में भी, एआई-जनित दृश्यों और वीडियो में अपनी छवि के अनाधिकृत उपयोग के बारे में शिकायत की है।
  • इस तरह का दुरुपयोग प्रतिष्ठा, निजता और डिजिटल मीडिया में सार्वजनिक विश्वास को हानि पहुँचा सकता है।
• डिजिटल स्पेस में “एआई स्लॉप (AI Slop)” का उदय: निम्न गुणवत्ता वाली, भ्रामक और सिंथेटिक एआई सामग्री में वृद्धि, जिसे “एआई स्लॉप” कहा जाता है, ने ऑनलाइन सूचना पारितंत्र की विश्वसनीयता को कम कर दिया है।
  • यह प्रवृत्ति सूचना प्रदूषण में योगदान करती है, जिससे उपयोगकर्ताओं के लिए विश्वसनीय स्रोतों तक पहुँचना कठिन हो जाता है।

भारत की नीतिगत प्रतिक्रिया

• सरकार का प्रस्तावित संशोधन: सरकार ने एआई-जनित सामग्री को लेबल करना अनिवार्य बनाने के लिए आईटी नियम, 2021 में संशोधन करने की योजना बनाई है।
  • इस संशोधन का उद्देश्य डिजिटल मीडिया के उपयोग में पारदर्शिता और जवाबदेही सुनिश्चित करना है।
• इस प्रस्ताव के पीछे निहित तर्क: भारत, दूसरे सबसे बड़े एआई उपयोगकर्ता आधार के रूप में, गलत सूचना के प्रसार के बढ़े हुए जोखिमों का सामना करता है।
  • इसके अलावा, एआई-जनित दृश्यों की वास्तविकता सुनिश्चित करने के लिए सक्रिय विनियामक प्रयासों की आवश्यकता है।
• सार्वजनिक छवि का संरक्षण: कई सार्वजनिक व्यक्तियों ने अपनी छवि के अनाधिकृत एआई उपयोग पर न्यायालय में शिकायत और विधिक कार्यवाही की माँग की है।
  • लेबलिंग व्यक्तिगत पहचान की रक्षा करने और प्रतिष्ठा को नुकसान को रोकने में मदद करती है।

विधायी दृष्टिकोण की आलोचना

• अधीनस्थ विधान (Subordinate Legislation): आईटी नियम, 2021 आईटी अधिनियम, 2000 में संशोधन की बजाय कार्यकारी नियमों के माध्यम से बदलाव लागू करते हैं।
• जवाबदेही और शक्तियों का पृथक्करण: यह संसदीय चर्चा और सार्वजनिक जाँच को दरकिनार करता है, जिससे कार्यकारी अतिक्रमण के संबंध में चिंताओं में वृद्धि होती है।

वैश्विक प्रतिक्रिया

• वैश्विक प्लेटफॉर्म्स द्वारा स्वैच्छिक लेबलिंग: प्रमुख टेक फर्मों ने सहयोग करने की शुरुआती इच्छा दिखाई है।
  • उदाहरण के लिए, मेटा ने पहले ही फेसबुक पर एआई-जनित सामग्री को लेबल करना शुरू कर दिया है।
• डिजिटल उत्पत्ति पर उद्योग सहयोग: कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) गठबंधन डिजिटल मीडिया की उत्पत्ति को सत्यापित और ट्रैक करने के लिए कंपनियों को एकजुट करता है।
  • कला जगत की उत्पत्ति (provenance) की अवधारणा से प्रेरणा लेते हुए, डिजिटल उत्पत्ति एक “जन्म प्रमाण-पत्र” के रूप में कार्य करती है, जो प्रामाणिकता सुनिश्चित करने के लिए निर्माण की तारीख, स्वामित्व, उपयोग किए गए सॉफ्टवेयर और एआई की भागीदारी पर मेटाडेटा एम्बेड करती है।

आगे की राह

• लोकतांत्रिक निरीक्षण सुनिश्चित करना: पारदर्शिता, वैधता और जवाबदेही सुनिश्चित करने के लिए एआई विनियमन को आईटी नियमों जैसे केवल अधीनस्थ विधान पर निर्भर रहने की बजाय संसद के समक्ष चर्चा और अनुमोदन के लिए रखा जाना चाहिए।
• नवाचार और विनियमन का संतुलन: नीति निर्माताओं को एक लचीला, अनुकूल ढाँचा अपनाना चाहिए जो नागरिक अधिकारों और लोकतांत्रिक मूल्यों के लिए सुरक्षा उपायों को बनाए रखते हुए तकनीकी प्रगति के साथ विकसित हो।
• कानूनी ढाँचों की नियमित समीक्षा: सरकार को उभरती एआई-संबंधित चुनौतियों का समाधान करने के लिए मौजूदा डिजिटल कानूनों का समय-समय पर आकलन तथा उनका अद्यतन करना चाहिए।

निष्कर्ष

एआई-जनित सामग्री को लेबल करना गलत सूचना के खिलाफ एक प्रमुख कदम है, लेकिन स्थायी प्रभाव के लिए इसे पारदर्शी निष्पादन और समय-समय पर समीक्षा की आवश्यकता है।

DOWNLOAD PDF