AI-जनरेटेड कंटेंट की अनिवार्य लेबलिंग

संदर्भ

कृत्रिम बुद्धिमत्ता (AI ) से निर्मित कंटेंट और ‘डीपफेक’ के दुरुपयोग को रोकने के उद्देश्य से केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने सूचना प्रौद्योगिकी (मध्यस्थ दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में संशोधन का मसौदा तैयार किया है।

मुख्य प्रावधान

• AI कंटेंट की अनिवार्य लेबलिंग: सभी कृत्रिम या एल्गोरिद्मिक रूप से तैयार किए गए कंटेंट (वीडियो, चित्र, ऑडियो आदि) पर स्थायी और स्पष्ट लेबल होना आवश्यक होगा।
  • उदाहरण: YouTube पर AI द्वारा निर्मित वीडियो में प्रदर्शित होना चाहिए।
    • वीडियो के भीतर एक लेबल (निर्माण के समय एंबेड किया गया)।
    • कंटेंट होस्ट करने वाले YouTube पेज पर एक प्लेटफॉर्म-आधारित प्रकटीकरण।
• ‘सिंथेटिक रूप से उत्पन्न सूचना’ की परिभाषा: ‘ऐसी सूचना जो कृत्रिम रूप से या एल्गोरिदम के माध्यम से कंप्यूटर संसाधन का उपयोग करके बनाई, उत्पन्न, संशोधित अथवा परिवर्तित की जाती है और जो यथोचित रूप से प्रामाणिक या सत्य प्रतीत होती है।’
  • इसमें डीपफेक, AI-संशोधित छवियाँ, AI-क्लोन वाइस या एल्गोरिदम द्वारा उत्पन्न वीडियो शामिल हैं, जो वास्तविक व्यक्तियों या घटनाओं की नकल करते हैं।
• उपयोगकर्ता की घोषणा
  • प्लेटफॉर्म को अपलोड करने वाले उपयोगकर्ताओं से यह घोषणा करवानी होगी कि सामग्री कृत्रिम रूप से उत्पन्न की गई है या नहीं।
  • ऐसी घोषणाओं की सटीकता सुनिश्चित करने के लिए प्लेटफॉर्म को तकनीकी सत्यापन उपकरण (जैसे- AI डिटेक्टर, मेटाडेटा जाँच) तैनात करने होंगे।
  • यदि सामग्री कृत्रिम रूप से उत्पन्न होने की पुष्टि हो जाती है, तो प्लेटफॉर्म को सामग्री की प्रमुख और दृश्यमान लेबलिंग सुनिश्चित करनी होगी।
• अनुपालन और दायित्व: यदि प्लेटफॉर्म इन नियमों का पालन नहीं करते, तो उन्हें सूचना प्रौद्योगिकी अधिनियम, 2000 की धारा 79 के अंतर्गत प्राप्त कानूनी सुरक्षा का लाभ नहीं मिलेगा।

वैश्विक परिप्रेक्ष्य चीन ने सितंबर 2025 में इसी तरह के AI लेबलिंग नियम प्रस्तुत किए, जिसमें ये जरूरी है: चैटबॉट, AI राइटिंग, सिंथेटिक वाइस, फेस स्वैप और वर्चुअल सीन एडिटिंग के लिए दिखाई देने वाले AI सिंबल। दूसरे AI-जेनरेटेड कंटेंट के लिए छिपे हुए वॉटरमार्क। स्वैच्छिक लेबलिंग पहल मेटा ने वर्ष 2024 में अपने प्लेटफॉर्म पर AI-जनरेटेड कंटेंट को लेबल करना शुरू कर दिया। ‘कोएलिशन फॉर कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी’ (C2PA) डिजिटल उद्गम के लिए मानक (सामग्री की उत्पत्ति और संशोधनों का पता लगाना) विकसित कर रहा है।

AI कंटेंट लेबलिंग की आवश्यकता

• डीपफेक के दुरुपयोग को रोकना:  डीपफेक का उपयोग पहचान की चोरी, मानहानि और गलत सूचना के लिए किया जा रहा है तथा अक्सर सार्वजनिक हस्तियों एवं निजी नागरिकों को समान रूप से निशाना बनाया जाता है।
  • उदाहरण: अभिनेत्री रश्मिका मंदाना का डीपफेक वीडियो (वर्ष 2023) व्यापक रूप से प्रसारित हुआ, जिससे निजता और गरिमा दोनों प्रभावित हुईं।
• पारदर्शिता और जनजागरूकता बढ़ाना:  नागरिकों को यह स्पष्ट रूप से ज्ञात होना चाहिए कि वे जो कंटेंट देख रहे हैं, वह वास्तविक है या कृत्रिम। यह लोकतांत्रिक विमर्श की विश्वसनीयता के लिए आवश्यक है।
• राजनीतिक दुरुपयोग और चुनावी हस्तक्षेप रोकना: जनरेटिव AI का उपयोग झूठे भाषणों या वीडियो के माध्यम से मतदाताओं को भ्रमित करने के लिए किया जा सकता है।
• प्लेटफॉर्म की जवाबदेही सुनिश्चित करना: अब तक सोशल मीडिया प्लेटफार्म थर्ड-पार्टी कंटेंट के लिए जिम्मेदार नहीं माने जाते थे, पर इन संशोधनों के बाद उन पर साझी जवाबदेही लागू होगी।

DOWNLOAD PDF