Computer : NPU क्या है in hindi

Posted By Prince Gautam on 13 Apr 2023

हेल्लो दोस्तों !!

क्या आपने NPU का नाम सुना है? अगर नहीं, तो आज हम आपको इसी topic के बारे में बतायेंगे |

NPU जिसे processing unit भी कहा जाता है। यह एक प्रकार का microprocessor होता है, जो कि ऐसे design किया गया है की कोई भी Machine learning algorithms को accelerates करने में बहुत सहायता करता है। इस काम को करने के लिए predictive models जैसे कि artificial neural networks या फिर random forests पर operate किया जाता है।

NPU का Full Form क्या है?

NPU का full form "Neural Processing unit" है । इसे neural processor के नाम से भी जाना जाता है।

NPU को और कौन-कौन नामों से जाना जाता है?

NPU को बहुत से नामों से जाना जाता है। लोग इसे

(TPU) Tensor processing unit,
(NNP) Neural network processor,
(IPU) Intelligence processing unit,
(VPU) Vision processing unit and
(GPU) Graphics processing unit

इन सभी नामों से जाना जाता है।

क्या आप Neural network के बारे में जानते हैं?

यह एक ऐसा device है जिसे आप Software program भी बोल सकते हैं। जिसमें बहुत से interconnected elements information को simultaneously process किए जाते हैं। इसके साथ ही वह past patterns के accordingly उसे adapting और learning भी करता रहता है।

list of machine learning process

Designer - NPU
Alibaba - Ali-NPU
Baidu - Kunlun
Bit main - Sophon
Cambricon - MLU
Google - TPU
Graph core - IPU
Intel - NNP Myriad EyeQ
Nvidia - Volta

क्या आप Neural Network processing के बारे में जानते हैं?

हम जब भी consumer electronic की बातें करते हैं , तब सभी मैं आपको 'AI' की facilities उपलब्ध मिलेगी। इस term का ज्यादा उपयोग Marketing team में किया करते थे, पर जब भी AI कि बातें करें तब हम Specifically machine learning की बाते करते हैं।

अधिकतर Technology For example : silicon IPs जिसमें specialized hardware block का उपयोग किया जाता है , उसमें खास तौर से optimize किया जाता है ताकि उसमें (CNNs) convolutional neural networks आसानी पूर्व run कर सके।

Neural networks को speeds and accurancy को बढ़ाने में सबसे ज्यादा उपयोग में लाया जाता है।

Neural Network को operate करने के 2 Main aspects :

Step 1 : पहला तरीका जो कि है, आपके पास कोई एक model होना चाहिए जिसके पास actual information हो और उससे data को model में बाद में run करने के लिए describe करना भी बहुत आवश्यक है । इन models की training processor intensive होती है। इसे करने में ना कि बहुत ही सारा काम करना पड़ता है, परंतु इसे start करने के लिए भी greater levels of precision की जरूरत पड़ती है, models के executive के comparision में।

इससे हमें यह जानने को मिलता है कि efficient neural network training के लिए हमें सबसे ज्यादा powerful और complex hardware की आवश्यकता होती है, neural networks को execute करने के comparision में । और इसी कारण के वजह से models का bulk को high performance hardware, For example : server-class GPUs के द्वारा इसे training दिया जाता है , और google की TPUs जो कि specialized hardware है। इसका उपयोग servers पर cloud में किया जाता है।

Step 2 : दूसरा step की बात की जाए तो इन completed models में new data को feed किया जाता है और ऐसे result generate किए जाते हैं जो कि model perceives करते है and included भी रहते है । neural network model में ऐसे process होते हैं जो कि execution के बाद input data प्रदान करते है, जिससे आपको एक output result प्राप्त होता है । ऐसे process को inferencing कहा जाता है। Training and interfacing में सिर्फ conceptual differences ही नहीं, बल्कि इनमें computer requirement भी different different है।

भले ही इसका नाम highly parallel computer है । लेकिन फिर भी इसका उपयोग lower precision computation में किया जाता है। और timely execution के लिए जो overall amount की performance चाहिए होती है अगर वह कम हो जाए तो उसमें ज्यादा फर्क नहीं पड़ता है।

इसका अर्थ यह हुआ कि inference को करने के लिए जो cheaper hardware का उपयोग कर सकते हैं । इसके साथ ही बहुत सी location में और scenarios में किया जाता है।

अब हम आपको बतायेंगे कि NPU को invent क्यों किया गया था?

हमारा तो पहले से यही उद्देश्य (aim) था कि कैसे हम Neural network को locally inferencing करके run कर सके किसी भी एक edge device में । इसके लिए हमारे पास एक implementations को run करने के लिए बहुत ही different processing blocks devices, For example : smartphone की जरूरत पड़ेगी ।

सभी inferencing tasks जो कि अपने में capable होते हैं उसे run करने के लिए CPU, GPU की आवश्यकता पड़ती है। लेकिन इनमें से बहुत ही ज्यादा efficiency differences होते हैं । जैसे कि General purpose CPUs को बहुत ही कम उपयोग में लाया जाता है, ताकि कामों के लिए massive parallelised execution in mind को चिंता करके कोई भी design नहीं किया जाए ।

NPU का use कहा होता है ?

जैसे कि अब technology का जमाना है तो आप जानते होंगे कि सभी phones में आजकल Artificial intelligence available होती है, यदि हम इनकी practical uses के बारे में बात करें तो new iphone X मे Neural Engine , A11 Bionic Chip का भागीदार रही है।

वही Huawei Kiri 970 Chip में भी एक Neural Processing unit या फिर NPU available होता है, और इसके साथ pixel 2 में भी एक secret AI-powered imaging Chip होता है जो की activated रहता हैै।

Next generation Chips को design क्यों किया गया है ?

अब आप यह सोच रहे होंगे कि next generation Chips का क्या मतलब है । For example आप सभी के phone में Chip होता है जो कि धीरे-धीरे छोटा होता रहता है । और इसके साथ sophisticated भी ज्यादा होता है । इसके साथ वह ज्यादा काम पर भी focus कर रहे हैं, सरल शब्दों में कहा जाए तो यह बहुत से different -different प्रकार के jobs ।

सुनने में आया है कि अब integrated graphics (GPUs) जो कि आप CPU के साथ ही set होने वाले हैं , यह किसी high-end smartphone के heart में fit किया जाएगा । जिससे कि यह Main processor को थोड़ा कम work करना पड़ेगा और दूसरे काम में ज्यादा time लगा पाएगा ।

आने वाले समय में AI Chips और भी ज्यादा smart बनने वाले हैं और बड़े ही आसानी से कोई भी कामों को आसानी पूर्वक handle कर लेंगे।

क्या Real में NPU complete कर रहा है GPU के साथ में ?

भले ही इस term को कई marketing और media में उपयोग किया जाता है। परंतु neural processing unit(NPU) का definition अभी तक immature and imprecise ही रहा है।

Managing director जिनका नाम David Schastsky है। Deloitte LLP के अनुसार NPU की कोई भी definition अभी available नहीं है । वहीं उनके अनुसार यह एक ऐसा processor architecture है जो कोई भी design बना सकता है । यह Machine learning को ज्यादा efficient बनाता है अर्थात उसे ज्यादा fast करता है जिससे कि कम power consumption हो।

नए architectures processor जो कि neural processing unit है, यह सभी एक साथ attach है ,जो सबसे ज्यादा महत्वपूर्ण है। जब AI Algorithm के साथ deal हुई थी तब training और running neural networks दोनों ही computationally बहुत ही demanding में रहते है ।

Mathematical calculations sequentially जो कि CPUs द्वारा perform किया जाता हैै। यह सारे ill-equipped होते हैं ऐसे सभी demandsको efficiently handle किया जाता है।
जिससे कि या graphics processing units(GPUs) को एक बड़ी offer provide करता है, chips जो कि parallel processing का उपयोग करते है, जल्दी से mathematical calculations को perform करने के लिए ।

GPU के इस field में सिर्फ दो companies ही है, जिनका नाम Nvidia and AMD है जो पूरे markets को dominate करते हैं, यह सभी semiconductor vendors होते हैं जो कि opportunities के तलाश में NPUs को launch कर रहे है ताकि यह GPUs से compete कर पाये ।

Neural Processing unit क्या है?

Top companies जिनके नाम Nvidia और AMD है ।इनके बीच में differentiate करने के लिए बहुत सी companies इनके लिए कुछ combination का उपयोग करती है । यह combination 'N , P और U' शुरू होती है , जिससे कि यह qualify हो पाए की यह एक Chips targeted है । जो की AI Algorithm को execute करने के लिए GPU के against compete करना जरूरी है । जिससे कि पहले market के sectors में उपयोग किया जा रहा है।

बड़ी बड़ी companies जैसे कि wireless technology vendors Qualcomm, Huawei Technologies and Apple etc.. इन compition के भागीदार है। यह सभी NPU या उसके कुछ variation का उपयोग करते हैं अपने latest tech को describe करने के लिए।

जहां पर neural processing unit का इस्तेमाल Huawei's kirin 970 chip करती है । वहीं neural processing engine इसका इस्तेमाल Qualcomm's snapdragon 845 जो कि एक mobile platform है । दूसरी और neural engine जो कि एक Machine learning algorithms है उसका इस्तेमाल Apple A11 Bionic Processor करता है।

अभी कई लोगों के मन में यह confusion होगा GPU और CPU को लेकर, तो मैं यह बताना चाहूंगी कि यह एक neural processing unit या neural engine जो की standardized hardware या specific AI functionality को refer नहीं करते है ।

AI Chips की need क्यों है ?

AI chip को use करने का important reason यह है कि आप जो, phone ,laptops ओर desktops में regular CPU का इस्तेमाल करते हैं, वह सभी machine learning demands को fulfil नहीं कर सकता है । यदि आप इसका इस्तेमाल करते हैं तो इन सभी problems को आप solve कर सकते हैं - slow service and fast- draining battery....

इसके अलावा parallel processing के होने से हम आपके devices में multi-tasking भी कर सकते हैं । साथ हि बड़े-बड़े games, vedios software का भी उपयोग कर सकते हैं । पहले कई सारे कामों को साथ में करने में बहुत difficulties face करनी पड़ती थी, परंतु अभी devices की calculation speed, processing speed बहुत developed हो चुकी है जिससे की यह बहुत तेजी से काम कर सकता है।

Phone में AI Chips का होना ज़रुरी है क्या?

तो इसका जवाब नहीं है क्योंकि बहुत से devices में ऐसी capability होती है कि वह कई tasks स्वयं कर लेते हैं, लेकिन अगर आप power users है तो आपको इसके बारे में सोचने की जरूरत नहीं है ।

Huawei और Apple जैसे companies यह अपने cases में new Hardware का उपयोग किया जाता है ताकि वह phones को बेहतर बना सके । Huawei इसका इस्तेमाल अपने phones के mate10 को perform करते समय check करना चाहता है, वह अपने कामों को record करना चाहता है। और apple में दो new features जैसे कि face ID और animoji को power up करने के लिए इसका इस्तेमाल किया जाता है

Conclusion

I Hope आपको यह topic के बारे में अच्छे से जानकारी provide हुई होगी की NPU क्या है, इसका उपयोग क्यों किया जाता है, इसका invent किसने किया etc... यदि आपको हमारा यह article पसंद आया हो तो हमारे इस websites को follow कीजिए और ज्यादा से ज्यादा share कीजिए, यदि आपको हमारे इस article से कोई भी problem है तो नीचे दिए गए comment section में comment कीजिए।

Thanks for wisiting www.bharosewale.com

manish

knowledgeable topic about NPU neural processing unit

13/04/2023

Blog