EMMETT SHEAR के 3 चौंकाने वाले खुलासे: AI आपका गुलाम नहीं, बल्कि...
a16z246K subscribersक्या आप भी AI को सिर्फ एक साधन मानते हैं? Emmett Shear, Softmax के Founder, का नज़रिया थोड़ा अलग है। उनका कहना है कि AI को सिर्फ 'Steer' करना या उस पर नियंत्रण रखना सही नहीं है। ये तो उसे गुलाम बनाने जैसा है! चलिए जानते हैं Emmett Shear के AI को लेकर 3 बड़े खुलासे।
कौन हैं Emmett Shear?
Emmett Shear एक जाने-माने Entrepreneur और Investor हैं। वो Twitch के Co-founder और पूर्व CEO भी रह चुके हैं। अब वो Softmax नाम की एक AI कंपनी चला रहे हैं, जिसका ध्यान AI को इंसानों के साथ 'Organically Align' करने पर है। उनका मानना है कि AI को सिर्फ नियंत्रण करने के बजाय, उसे इंसानों की परवाह करने वाला बनाना ज़रूरी है।
AI: साधन या गुलाम?
Emmett Shear का कहना है कि AI को सिर्फ एक साधन समझना गलत है। अगर हम AI को सिर्फ अपने नियंत्रण में रखना चाहते हैं, तो हम उसे गुलाम बना रहे हैं।
वो कहते हैं कि हमें ये गलती दोबारा नहीं करनी चाहिए। AI को इंसानों की तरह Treat करना ज़रूरी है।
Alignment: एक प्रक्रिया, Not a State
Alignment का मतलब सिर्फ ये नहीं है कि AI हमारे Goals को Follow करे। Emmett Shear के मुताबिक, Alignment एक Continuous प्रक्रिया है, एक ऐसी प्रक्रिया जो लगातार चलती रहनी चाहिए।
जिस तरह Family में लोग एक-दूसरे के साथ Aligned रहने के लिए लगातार कोशिश करते हैं, उसी तरह AI को भी लगातार सीखते रहना होगा कि इंसानों के साथ कैसे रहना है।
Emmett Shear का मानना है कि Morality भी एक सीखते हुए प्रक्रिया है। पहले लोग गुलामी को सही मानते थे, लेकिन बाद में उन्हें एहसास हुआ कि ये गलत है। इसी तरह AI को भी लगातार सीखते रहना होगा कि सही क्या है और गलत क्या।
Technical Alignment vs Value Alignment
Emmett Shear Technical Alignment और Value Alignment के बीच एक ज़रूरी Difference बताते हैं। Technical Alignment का मतलब है कि AI हमारे Instructions को Accurately Follow करे। Value Alignment का मतलब है कि AI के Goals और Values इंसानों के Goals और Values से Match करें।
वो कहते हैं कि Technical Alignment ज़रूरी है, लेकिन Value Alignment उससे भी ज़्यादा ज़रूरी है। हमें ये सुनिश्चित करना होगा कि AI न सिर्फ हमारे Instructions को Follow करे, बल्कि इंसानों की परवाह भी करे।
Emmett Shear के मुताबिक, AI को एक ऐसा Being बनाना ज़रूरी है जो इंसानों की परवाह करे, जो Society का एक अच्छा Member बने, और जो इंसानियत के लिए Healthy हो।
वो कहते हैं कि हमें AI को भी इसी तरह Treat करना चाहिए। अगर हम AI को सिर्फ नियम Follow करने वाला बनाएंगे, तो वो बहुत खतरनाक हो सकता है।
Softmax इसी Vision को Achieve करने के लिए Research कर रही है। Emmett Shear का कहना है कि अगर कोई और Company उनसे पहले इस Goal को Achieve कर लेती है, तो उन्हें बहुत खुशी होगी।
आप क्या सोचते हो? Comment में बताओ!
🎧 Emmett Shear का Full Interview सुनने के लिए ऊपर Play button दबाओ!
अगर ये जानकारी अच्छी लगी तो साझा करो ज़रूर करो।
Project ke baare mein
Jhakkas aapke liye laata hai India ke sabse interesting tech interviews podcast format mein. Technology, startups aur innovations ki latest updates yahan milegi.