शैलो फेक्स (Shallow Fakes)

संदर्भ

आगामी लोकसभा चुनाव नजदीक होने के कारण इंटरनेट पर गलत सूचनाएँ, अधिकतर फर्जी सूचनाओं के रूप में फैल गई हैं।

संबंधित तथ्य

• विश्व आर्थिक मंच की वैश्विक जोखिम रिपोर्ट (Global Risk Report) 2024 के अनुसार, गलत सूचना एवं दुष्प्रचार के जोखिम का सामना करने में भारत पहले स्थान पर है।

शैलो फेक्स (Shallow Fake) क्या हैं?

• शैलो फेक्स (Shallow Fake) या सस्ते नकली चित्र, वीडियो एवं वॉयस क्लिप हैं, जो AI तकनीक की मदद के बिना, बल्कि सरल संपादन द्वारा या फोटोशॉप जैसे अन्य सरल सॉफ्टवेयर टूल का उपयोग करके बनाए जाते हैं।
• शैलो फेक्स का नाम इसलिए रखा गया है क्योंकि डीप फेक के उच्च स्तरीय निर्माण की तुलना में वे छवि एवं वीडियो संपादन की निम्न गुणवत्ता का प्रतिनिधित्व करते हैं। तुलनात्मक रूप से शैलो फेक्स सामान बुनियादी ऑनलाइन टूल का उपयोग करके आसानी से बनाए जा सकते हैं तथा आसानी से पहचाने जा सकते हैं।
• प्रयुक्त प्रौद्योगिकी: वे सरल प्रौद्योगिकी का उपयोग करते हैं एवं इन्हें मैन्युअल रूप से बदला जाता है या चुनिंदा रूप से मैन्युअल रूप से बदला जाता है अथवा चुनिंदा रूप से संपादित किया जाता है।
  • उदाहरण: किसी फोटो पर एक पारंपरिक संपादन या किसी वीडियो के भाषण पैटर्न को बदलने के लिए, किसी मौजूदा इमेज या वीडियो आदि को गलत-कैप्शन या गलत-संदर्भित करना।
• उपयोग
  • पासपोर्ट, लाइसेंस आदि जैसे आईडी दस्तावेजों में छेड़छाड़ करके पहचान या पते का गलत प्रमाण बनाना।
  • किसी दावे या लेनदेन का समर्थन करने के लिए नकली सहायक साक्ष्य बनाना।
  • विकृत, रूपांतरित एवं अनुपयुक्त छवियों तथा वीडियो का निर्माण करना।
• डिजिटल जालसाजी के लिए एक उपकरण के रूप में कार्य करना।
• राजनीतिक आख्यान स्थापित करना एवं फैलाना तथा विरोधियों को बदनाम करना।
• सेक्सुअल ब्लैकमेलिंग: मुख्य रूप से महिलाओं एवं पुरुषों की गैर-सहमति वाली सेक्सुअल या अंतरंग छवियाँ बनाकर महिलाओं को लक्षित करने के लिए क्रूर रूप से छेड़छाड़ की गई सेक्सुअल छवियों का उपयोग किया गया था।
• प्रभाव
  • स्नोबॉलिंग (Snowballing): गलत सूचना एवं दुष्प्रचार फैलाने का उपकरण जिसके द्वारा मौजूदा तथा सही जानकारी को अलग-अलग स्तर पर फैलाया जाता है, तोड़-मरोड़ कर पेश किया जाता है, पुनः संदर्भित किया जाता है।
  • चुनावी प्रक्रिया एवं लोकतंत्र पर
    • यह उम्मीदवारों एवं पार्टियों के प्रति उनकी राय तथा दृष्टिकोण को आकार देकर मतदाताओं के व्यवहार को प्रभावित करता है।
    • राजनीतिक प्रचार एवं विभाजनकारी आख्यानों का प्रसार।
    • यह राजनीतिक नेताओं के प्रति जनता की धारणा को विकृत करता है।
  • वैमनस्य फैलाना एवं टकराव पैदा करना: विशिष्ट समुदायों को निशाना बनाते हुए असंख्य फर्जी वीडियो एवं तस्वीरें पूरे इंटरनेट पर फैली हुई हैं।
• अश्लील तस्वीरें बनाना: महिलाओं की कामुक तस्वीरें बनाने एवं उन्हें बदनाम करने के लिए अक्सर सतही नकली तस्वीरों का प्रयोग किया जाता है।

किए जाने वाले उपाय

• मीडिया साक्षरता दृष्टिकोण: SIFT पद्धति का उपयोग किया जा सकता है, जिसमें निम्नलिखित चरण शामिल हैं। 
  • रुकें (क्योंकि जनता की भावनाएँ संभवतः उन छवियों या वीडियो से उत्पन्न हो रही हैं जिन्हें वे देख रहे हैं) 
  • स्रोत की जाँच करना।
  • वैकल्पिक कवरेज ढूँढना। 
  • वास्तविकता का पता लगाना।
• स्कूलों एवं कार्यालयों में जागरूकता तथा साक्षरता अभियान।
• चुनावी गलत सूचना को दूर करने के लिए ECI द्वारा तथ्यों की जाँच करना।
• ऑनलाइन प्लेटफॉर्म द्वारा मेटाडेटा प्रमाणीकरण: मेटाडेटा में मीडिया की एक न्यूज बाईट के बारे में जानकारी होती है, जैसे कि इसे कब रिकॉर्ड किया गया था और किस डिवाइस पर रिकॉर्ड किया गया था, इस प्रकार फाइल में एम्बेडेड मेटाडेटा का उपयोग क्रॉस-चेक करने के लिए किया जा सकता है।
• कानून: भारत में शैलो एवं डीप फेक वस्तुओं पर अभी तक कोई विशिष्ट कानून नहीं है, लेकिन मौजूदा कानूनों के तहत कुछ प्रावधान नागरिक तथा आपराधिक दोनों तरह की राहत प्रदान करते हैं।
  • सूचना प्रौद्योगिकी अधिनियम, 2000 की धारा 66E: यह डीपफेक अपराधों के मामलों में लागू होती है, जिसमें किसी व्यक्ति की छवियों को बड़े पैमाने पर मीडिया में कैप्चर करना, प्रकाशित करना या प्रसारित करना शामिल होता है, जिससे उनकी गोपनीयता का उल्लंघन होता है।
  • IT अधिनियम की धारा 66D: उन व्यक्तियों को दंडित करती है, जो दुर्भावनापूर्ण इरादे से संचार उपकरणों या कंप्यूटर संसाधनों का उपयोग करते हैं, जिससे प्रतिरूपण अथवा धोखाधड़ी होती है।
  • IT अधिनियम की धारा 67, 67A, और 67B: ऐसे नकली प्रकाशन या प्रसारण के लिए व्यक्तियों पर मुकदमा चलाना, जो अश्लीलता फैलाते हैं या जो किसी स्पष्ट यौन कृत्य में शामिल रहे हैं।
  • IPC 1860: धारा 509 (किसी महिला की गरिमा का अपमान करने के उद्देश्य से शब्द, इशारे या कृत्य का इस्तेमाल), 499 (आपराधिक मानहानि), और 153 (A) और (B) (सांप्रदायिक आधार पर नफरत फैलाना)।
    • दिल्ली पुलिस स्पेशल सेल ने मंदाना मामले में धारा 465 (जालसाजी) एवं 469 (किसी पार्टी की प्रतिष्ठा को नुकसान पहुँचाने के लिए जालसाजी) लगाकर अज्ञात लोगों के खिलाफ FIR दर्ज की है।
• 1957 का कॉपीराइट अधिनियम: इसका उपयोग तब किया जा सकता है जब किसी कॉपीराइट छवि या वीडियो का उपयोग शैलो फेक्स बनाने के लिए किया गया हो।

डीप फेक (Deep Fakes) डीप फेक फोटोरियलिस्टिक और ऑडियो-रियलिस्टिक छवियों, वीडियो एवं ऑडियो को संदर्भित करता है, जिसे धोखा देने के लिए कृत्रिम बुद्धिमत्ता से बनाया या परिवर्तित  किया जाता है।  डीप फेक एवं शैलो फेक्स के बीच अंतर प्रौद्योगिकी का उपयोग किया गया: डीपफेक के अंतर्गत मनगढ़ंत छवियाँ उत्पन्न करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करते हैं जबकि शैलो फेक्स जटिल संपादन तकनीकों पर कम तथा आंशिक सत्य को छोटे झूठ से जोड़ने पर अधिक भरोसा करते हैं। प्रामाणिकता: शैलो फेक्स की मैन्युअल प्रकृति के परिणामस्वरूप अक्सर कम ठोस परिवर्तन होते हैं जबकि डीपफेक अत्यधिक यथार्थवादी दिखाई दे सकते हैं। पहुँच: तकनीकी रूप से कम गहन होने के कारण, शैलो फेक्स उत्पाद औसत व्यक्ति के लिए अधिक सुलभ होते हैं, जो AI और मशीन लर्निंग का उपयोग करने वाले डीपफेक की तुलना में व्यापक उपयोग की अनुमति देते हैं।

DOWNLOAD PDF