JENSEN HUANG के 3 धमाकेदार खुलासे: कैसे NVIDIA AI REVOLUTION को बदल रहा है?

Extreme Co-design: क्यों ज़रूरी है AI के लिए?

पहले NVIDIA का फोकस सिर्फ़ सबसे अच्छा GPU बनाने पर था। लेकिन अब Jensen Huang का कहना है कि कंपनी ने "chip-scale design" से "rack-scale design" की तरफ़ कदम बढ़ाया है। इसका मतलब है कि अब सिर्फ़ एक chip पर ध्यान नहीं दिया जाता, बल्कि पूरे सिस्टम को एक साथ डिज़ाइन किया जाता है। इसमें GPU, CPU, memory, networking, storage, power, cooling और software तक, सब कुछ शामिल है।

सवाल ये है कि ऐसा "extreme co-design" क्यों ज़रूरी है? असल में, आज के AI समस्या इतने बड़े हो गए हैं कि वो एक computer या एक GPU से solve नहीं हो सकते। आपको 10,000 computers जोड़ने पड़ सकते हैं, लेकिन आप चाहते हैं कि काम लाखों गुना तेज़ी से हो। जब आप किसी algorithm को इतने बड़े scale पर distribute करते हैं, तो सब कुछ एक दिक्कत बन जाता है – CPU, GPU, networking, switching, और workload को distribute करना। ये एक बहुत complex computer science समस्या है। Jensen Huang के मुताबिक, Amdahl's Law के हिसाब से, अगर computation किसी समस्या का 50% है और आप उसे लाखों गुना तेज़ कर दें, तब भी पूरा workload सिर्फ़ दो गुना ही तेज़ होगा। इसलिए, हर technology को एक साथ लाना ज़रूरी है ताकि चीज़ें तेज़ी से आगे बढ़ें।

NVIDIA में अलग-अलग disciplines के experts होते हैं – memory, CPU, optical, GPU, architecture, algorithms, design के विशेषज्ञ। Jensen Huang का direct staff 60 लोगों का है। वो one-on-one meetings नहीं करते, बल्कि एक समस्या को सामने रखते हैं और सब मिलकर उस पर काम करते हैं। उनका कहना है कि कंपनी हर वक्त "extreme co-design" कर रही होती है। अगर cooling या networking पर बात हो रही है, तो power distribution या memory के experts भी सुनते हैं और बताते हैं कि उनके हिस्से में क्या काम करेगा और क्या नहीं। इस तरह, सब मिलकर एक ही vision पर काम करते हैं।

NVIDIA का सफर: एक जोख़िम भरा फैसला और CUDA की कहानी

NVIDIA का सफर एक specialized accelerator company के तौर पर शुरू हुआ था। लेकिन Jensen Huang को पता था कि सिर्फ़ एक narrow application domain में रहने से कंपनी की R&D capacity और computing में उसका impact कम हो जाएगा। इसलिए, उन्हें एक ऐसा रास्ता खोजना था जिससे वे "accelerated computing" कंपनी तो बनें, लेकिन अपनी specialization भी न छोड़ें। ये एक मुश्किल संतुलन था।

पहला कदम उन्होंने "programmable pixel shader" के साथ उठाया, जो programmability की तरफ़ पहला कदम था। फिर उन्होंने अपने shaders में FP32 डाला, जो computing की दुनिया में एक बड़ा कदम था। इसकी वजह से scientists और researchers ने GPU को CPUs के alternative के तौर पर देखना शुरू किया। इसी से Cg और फिर आखिरकार CUDA का जन्म हुआ।

CUDA को GeForce GPUs पर डालना NVIDIA के लिए एक बहुत बड़ा और जोखिम भरा strategic decision था। Jensen Huang इसे एक "existential threat" के बराबर मानते हैं। उस वक्त, GeForce बहुत कामयाब था और कंपनी हर साल लाखों GPUs बेच रही थी। लेकिन CUDA को GeForce पर डालने से GPU की cost इतनी बढ़ गई कि कंपनी का सारा gross profit खत्म हो गया। उस समय NVIDIA की market cap $8 billion से घटकर सिर्फ़ $1.5 billion रह गई थी।

लेकिन Jensen Huang को install base की ताकत पर पूरा भरोसा था। उनका मानना था कि किसी भी computing platform के लिए developers सबसे ज़रूरी होते हैं, और developers वहीं आते हैं जहाँ install base बड़ा हो। उन्होंने कहा: "Install base ही architecture को define करता है। बाकी सब secondary है।" उन्होंने सोचा कि हर PC में एक supercomputer डालकर researchers और scientists तक CUDA पहुँचाया जाए। और यही हुआ। Jensen Huang का कहना है: "मैं हमेशा कहता हूँ कि NVIDIA वो घर है जिसे GeForce ने बनाया है, क्योंकि GeForce ही CUDA को सब तक ले गया।" इस फैसले ने NVIDIA को deep सीखते हुए revolution का platform और foundation बना दिया।

Jensen Huang की लीडरशिप और AI का भविष्य

Jensen Huang का leadership style भी बहुत अनोखी है। वो किसी चीज़ पर यकीन करने के बाद, सबको उस पर यकीन दिलाते हैं। वो चुपचाप फैसले नहीं लेते, बल्कि लगातार अपने board, management team और कर्मचारी के belief system को shape करते रहते हैं। वो कहते हैं, "जब मैं कुछ सीखता हूँ और वो मेरी सोच को affect करने लगता है, तो मैं अपने आस-पास के हर किसी को ये बात साफ़ कर देता हूँ।" वो हर discovery, हर milestone का इस्तेमाल करते हैं ताकि सबको convince कर सकें। जब वो कोई बड़ा announcement करते हैं, जैसे Mellanox को खरीदना या deep सीखते हुए में पूरी तरह उतरना, तो कर्मचारी सोचते हैं, "Jensen, आपको इतनी देर क्यों लगी?" क्योंकि वो पहले से ही सबकी सोच बना चुके होते हैं।

AI के भविष्य को लेकर Jensen Huang "scaling laws" में पक्का यकीन रखते हैं। पहले लोग सोचते थे कि high-quality data की कमी AI की intelligence को limit करेगी। लेकिन अब AI खुद synthetic data generate कर रहा है। उनका कहना है कि अब training data इंसानी-generated data से ज़्यादा नहीं होगा, बल्कि ज़्यादातर synthetic data होगा, और अब data की नहीं, बल्कि compute की कमी होगी।

एक और ज़रूरी बात "inference" के बारे में है। पहले लोग सोचते थे कि inference आसान है और इसके लिए छोटे, सस्ते chips बन सकते हैं। लेकिन Jensen Huang का नज़रिया अलग था। उनका कहना है: "Inference असल में सोचना है, और मेरा मानना है कि सोचना मुश्किल काम है।" वो मानते हैं कि सोचना, reasoning करना, समस्या solve करना, और नए experiences को समझना बहुत compute-intensive होता है। इसलिए "test time scaling" भी बहुत compute-intensive है। NVIDIA सिर्फ़ computers या clouds नहीं बनाता, बल्कि एक computing platform company है जो AI के भविष्य को shape कर रही है।

आप क्या सोचते हो? क्या AI सच में हर कंपनी को बदल देगा? टिप्पणी में बताओ!

🎧 Jensen Huang का full interview सुनने के लिए ऊपर Play button दबाओ!

अगर ये जानकारी अच्छी लगी तो साझा करो ज़रूर करो।