न्यूरल प्रोसेसिंग यूनिट

संदर्भ 

Apple द्वारा iPad Pro में प्रस्तुत की गई M4 चिप (M4 chip) में 16-कोर न्यूरल इंजन शामिल है, जिसे Apple द्वारा ‘न्यूरल प्रोसेसिंग यूनिट’ (Neural Processing Unit-NPU) के रूप में संदर्भित किया गया है।

न्यूरल प्रोसेसिंग यूनिट (NPU)

• परिचय: एक न्यूरल प्रोसेसिंग यूनिट एक समर्पित प्रोसेसर होता है, जिसे विशेष रूप से न्यूरल नेटवर्क प्रक्रियाओं को तीव्र करने के लिए डिजाइन किया गया है। 
• न्यूरल नेटवर्क: यह एक प्रकार का ‘मशीन लर्निंग एल्गोरिदम’ है, जो डेटा को संसाधित करने के लिए मानव मस्तिष्क की नकल करता है। 
• AI से संबंधित कार्यों को करने की क्षमता: इस प्रकार, NPU मशीन लर्निंग कार्य को कर सकता है, जो AI से संबंधित कार्यों का आधार बनता है। 
• आवाज को पहचानना, नेचुरल लैंग्वेज का प्रयोग करना तथा फोटो और वीडियो की प्रक्रिया को एडिटिंग करना आदि। 
• उपभोक्ता उपकरणों और डेटा केंद्रों में NPU का  एकीकरण: स्मार्टफोन, लैपटॉप और टैबलेट जैसे अधिकांश उपभोक्ताओं द्वारा उपयोग किए जाने वाले गैजेट्स में, NPU को मुख्य प्रोसेसर के भीतर एकीकृत किया जाता है, जो सिस्टम-ऑन-चिप (SoC) की विशिष्टता  को अपनाता है। 
  • हालाँकि, डेटा केंद्रों के लिए NPU एक पूरी तरह से भिन्न प्रोसेसर हो सकता है, जो किसी भी अन्य प्रोसेसिंग यूनिट, जैसे- सेंट्रल प्रोसेसिंग यूनिट (CPU) या ग्राफिक्स प्रोसेसिंग यूनिट (GPU) से अलग है।

CPU और GPU से NPU की भिन्नता

• CPUs: ये एक अनुक्रमिक कंप्यूटिंग पद्धति का उपयोग करते हैं तथा एक समय में एक निर्देश जारी करते हैं एवं बाद के निर्देशों के साथ अपने पूर्ववर्ती निर्देश के पूरा होने की प्रतीक्षा करते हैं। 
  • इसके विपरीत, NPU समानांतर कंप्यूटिंग का उपयोग एक साथ कई गणनाओं को निष्पादित करने के लिए करता है। इस समानांतर कंप्यूटिंग दृष्टिकोण के परिणामस्वरूप तेज और अधिक कुशल प्रोसेसिंग होती है। 
  • इस प्रकार, CPU अनुक्रमिक कंप्यूटिंग में अच्छे हैं तथा एक समय में एक प्रक्रिया को निष्पादित करते हैं, लेकिन AI कार्यों के संचालन के लिए प्रोसेसर को एक साथ कई गणनाओं और प्रक्रियाओं को निष्पादित करने की आवश्यकता होती है।
• ग्राफिक प्रोसेसिंग यूनिट (GPUs): इन प्रोसेसर में समानांतर कंप्यूटिंग क्षमताएँ होती हैं और ग्राफिक रेंडरिंग एवं रिजॉल्यूशन अपस्कलिंग (Graphic Rendering and Resolution Upscaling) जैसे अन्य कार्यों के साथ AI वर्कलोड को निष्पादित करने के लिए डिजाइन किए गए ‘एकीकृत सर्किट’ शामिल होते हैं। 
  • NPU लर्निंग ऑपरेशंस को सँभालने के लिए पूरी तरह से इन सर्किटों को दोहराते हैं। यह समर्पित कार्यक्षमता, कम बिजली की खपत के साथ अधिक कुशल AI वर्कलोड प्रोसेसिंग की ओर ले जाती है।
• GPUs का उपयोग अभी भी AI एल्गोरिदम के प्रारंभिक विकास और शोधन में किया जाता है, जबकि NPUs बाद के चरण में उपभोक्ता के डिवाइस पर उन परिष्कृत भाषा मॉडल को निष्पादित करते हैं।

स्माल लैंग्वेज मॉडल (SLMs): SLMs, लार्ज लैंग्वेज मॉडल से अधिक सुव्यवस्थित संस्करण हैं।  LLMs की तुलना में, छोटे AI  मॉडल विकसित करने और संचालित करने के लिए लागत प्रभावी होते हैं, और- वे लैपटॉप और स्मार्टफोन जैसे छोटे उपकरणों पर बेहतर प्रदर्शन करते हैं। SLMs संसाधन युक्त वातावरण के लिए अच्छे होते  हैं, जिसमें ऑन-डिवाइस और ऑफलाइन अनुमान परिदृश्य शामिल हैं।

NPU और ऑन-डिवाइस AI

• स्मालर लैंग्वेज मॉडल (Smaller Language Models) में संक्रमण: लार्ज लैंग्वेज मॉडल (LLMs) अक्सर डिवाइस पर संचालित करने के लिए बड़े होते हैं, जिससे सेवा प्रदाता अपने भाषा मॉडल के आधार पर AI सुविधाओं के  वितरित करने के लिए क्लाउड पर प्रक्रिया को अपलोड करते हैं। 
  • हालाँकि, प्रमुख प्रौद्योगिकी कंपनियाँ अब Google के Gemma, Microsoft के Phi-3 और Apple के OpenELM जैसे छोटे भाषा मॉडल पेश कर रही हैं।
• ऑन-डिवाइस AI मॉडल का उद्भव: पूर्ण रूप से डिवाइस पर संचालित होने में सक्षम यह ‘स्केल-डाउन एआई मॉडल’ परिवर्तनकारी सिद्ध हो रहा है। 
  • जैसे-जैसे ऑन-डिवाइस AI मॉडल तेजी से प्रमुख होते जाते हैं, NPU की भूमिका महत्त्वपूर्ण हो जाती है, क्योंकि वे सीधे हार्डवेयर पर AI-संचालित अनुप्रयोगों को लागू करने के लिए उत्तरदायी होती हैं।

DOWNLOAD PDF