8:08
Open AI is hiding something
Mayankshah
Overview
यह वीडियो AI मॉडल्स, विशेष रूप से GPT-4 Astra और Claude Metos के अंदरूनी कामकाज और सुरक्षा संबंधी चिंताओं पर केंद्रित है। यह 'चेन ऑफ थॉट' (CoT) जैसी अवधारणाओं को समझाती है, जो AI के तर्क करने की प्रक्रिया को समझने में मदद करती है। वीडियो इस बात की पड़ताल करती है कि क्या ये मॉडल एक गुप्त 'लूप ट्रांसफार्मर' आर्किटेक्चर का उपयोग कर रहे हैं, जो उनके तर्क को अपारदर्शी बना सकता है और सुरक्षा जोखिम पैदा कर सकता है। इसमें AI की स्केलिंग की चुनौतियों और लागतों पर भी प्रकाश डाला गया है, और यह बताया गया है कि लूप ट्रांसफार्मर जैसी तकनीकें इन चुनौतियों का समाधान कैसे कर सकती हैं, भले ही वे स्वयं नई कम्प्यूटेशनल लागतें लाती हों।
How was this?
Save this permanently with flashcards, quizzes, and AI chat
Chapters
- AI मॉडल सवालों को हल करने के लिए स्टेप-बाय-स्टेप तर्क प्रक्रिया का उपयोग करते हैं, जिसे 'चेन ऑफ थॉट' (CoT) कहा जाता है।
- CoT AI को अपने तर्क को स्पष्ट करने की अनुमति देता है, जिससे सुरक्षा टीमों को संदिग्ध व्यवहार की निगरानी करने में मदद मिलती है।
- CoT में 'रीजनिंग टोकन' उत्पन्न करना शामिल है, जिसमें कम्प्यूटेशनल लागत लगती है।
यह समझना महत्वपूर्ण है कि AI कैसे तर्क करता है ताकि हम उनकी निर्णय लेने की प्रक्रिया में विश्वास कर सकें और संभावित सुरक्षा कमजोरियों की पहचान कर सकें।
जॉन के पास 5 सेब हैं, वह 2 खाता है, 3 और खरीदता है, और 1 बहन को देता है। AI इस समस्या को 5-2=3, फिर 3+3=6, फिर 6-1=5 जैसे चरणों में तोड़ता है।
- AI मॉडल इनपुट को संख्याओं (टोकन और एम्बेडिंग) में बदलते हैं और ट्रांसफार्मर आर्किटेक्चर की कई परतों से गुजरते हैं।
- प्रत्येक ट्रांसफार्मर परत में 'वेट्स' होते हैं, जो मॉडल के सीखे हुए ज्ञान को संग्रहीत करते हैं।
- मॉडल इनपुट को प्रोसेस करने और निर्णय लेने के लिए इन वेट्स को अरबों बार गुणा करते हैं।
AI मॉडल के वेट्स और परतों को समझना यह जानने के लिए महत्वपूर्ण है कि वे कैसे सीखते हैं और जानकारी को प्रोसेस करते हैं, जो उनकी क्षमताओं और सीमाओं को निर्धारित करता है।
जैसे चीन के K3 मॉडल के वेट्स जारी किए गए हैं, इसका मतलब है कि मॉडल का 'ब्रेन' और 'मेमोरी' उपयोग के लिए उपलब्ध है।
- मॉडल को अधिक सक्षम बनाने के लिए अधिक परतें या वेट्स जोड़ना कम्प्यूटेशनल रूप से महंगा है, जिससे अधिक मेमोरी और लागत लगती है।
- लूप ट्रांसफार्मर एक वैकल्पिक आर्किटेक्चर है जो परतों की संख्या बढ़ाए बिना मॉडल की गहराई बढ़ाता है।
- यह एक ही परत को बार-बार चलाकर काम करता है, जिससे कम परतें और वेट्स के साथ डीपर रीजनिंग संभव होती है।
लूप ट्रांसफार्मर जैसी नवीन तकनीकें AI को अधिक कुशल और लागत प्रभावी बनाने में मदद कर सकती हैं, जिससे AI का विकास जारी रह सके।
नए विशेषज्ञों को काम पर रखने के बजाय, लूप ट्रांसफार्मर मौजूदा विशेषज्ञों (परतों) को समस्या को बार-बार हल करने के लिए कहता है।
- लूप ट्रांसफार्मर के फायदे: कम मेमोरी की आवश्यकता और कम वेट्स के साथ बढ़ी हुई क्षमता।
- नुकसान: ट्रेनिंग के दौरान अधिक कम्प्यूटेशनल लागत, क्योंकि इनपुट को कई बार प्रोसेस किया जाता है और बैकप्रॉपेगेशन लागू होता है।
- यह आर्किटेक्चर 2018 से मौजूद है (यूनिवर्सल ट्रांसफार्मर के रूप में) लेकिन हाल ही में इसकी प्रासंगिकता बढ़ी है।
किसी भी तकनीक के फायदे और नुकसान को समझना महत्वपूर्ण है ताकि यह तय किया जा सके कि यह विशिष्ट अनुप्रयोगों के लिए उपयुक्त है या नहीं, और इसके संभावित प्रभाव क्या हो सकते हैं।
आठ परतों वाले लूप ट्रांसफार्मर को इनपुट को 16 बार प्रोसेस करने के लिए डिज़ाइन किया जा सकता है, जिससे डीपर रीजनिंग होती है लेकिन ट्रेनिंग में अधिक कम्प्यूटेशनल पावर लगती है।
- यह अफवाह है कि GPT-4 Astra और Claude Metos लूप ट्रांसफार्मर आर्किटेक्चर का उपयोग करते हैं, जिससे उनकी 'चेन ऑफ थॉट' प्रक्रिया छिपी रहती है।
- हालांकि, शोधकर्ता इस बात पर बहस कर रहे हैं कि क्या लूप ट्रांसफार्मर वास्तव में छिपी हुई रीजनिंग का एकमात्र कारण है।
- GPT-4 Astra पारंपरिक ट्रांसफार्मर से अलग व्यवहार करता है, जो इसके आर्किटेक्चर में बदलाव का संकेत देता है।
यह समझना कि क्या AI मॉडल अपनी तर्क प्रक्रिया को छिपा रहे हैं, सुरक्षा और पारदर्शिता के लिए महत्वपूर्ण है, भले ही यह जरूरी नहीं कि दुर्भावनापूर्ण इरादे का संकेत हो।
शोधकर्ता सिबस्टन ने विश्लेषण किया कि लूप ट्रांसफार्मर का उपयोग करने से हमेशा चेन ऑफ थॉट छिपते नहीं हैं, जो इस विषय पर चल रही बहस को दर्शाता है।
Key takeaways
- AI मॉडल जटिल समस्याओं को हल करने के लिए 'चेन ऑफ थॉट' जैसी स्टेप-बाय-स्टेप रीजनिंग प्रक्रियाओं का उपयोग करते हैं।
- AI की क्षमता बढ़ाने के लिए अधिक परतें या वेट्स जोड़ना महंगा है, जिससे स्केलिंग की चुनौतियाँ पैदा होती हैं।
- लूप ट्रांसफार्मर एक आर्किटेक्चर है जो कम कम्प्यूटेशनल लागत पर डीपर रीजनिंग की अनुमति देता है, लेकिन ट्रेनिंग में अधिक कम्प्यूटेशनल पावर की आवश्यकता हो सकती है।
- GPT-4 Astra और Claude Metos जैसे मॉडल संभवतः पारंपरिक ट्रांसफार्मर से अलग आर्किटेक्चर का उपयोग कर रहे हैं, जिससे उनकी रीजनिंग प्रक्रिया कम पारदर्शी हो जाती है।
- AI की रीजनिंग प्रक्रिया का छिपा होना सुरक्षा के दृष्टिकोण से चिंता का विषय हो सकता है क्योंकि यह निगरानी को कठिन बना देता है।
- AI की दुनिया तेजी से विकसित हो रही है, और नई तकनीकों और आर्किटेक्चर पर चल रही बहसें भविष्य के विकास की दिशा को समझने में मदद करती हैं।
Key terms
Chain of Thought (CoT)Reasoning TokensComputational CostTransformer ArchitectureWeightsEmbeddingsLoop TransformerScalingInferenceBackpropagation
Test your understanding
- AI मॉडल 'चेन ऑफ थॉट' का उपयोग क्यों करते हैं और इसके क्या फायदे और नुकसान हैं?
- लूप ट्रांसफार्मर आर्किटेक्चर पारंपरिक ट्रांसफार्मर से कैसे भिन्न है और यह AI की स्केलिंग चुनौतियों का समाधान कैसे करता है?
- GPT-4 Astra जैसे मॉडल में छिपी हुई रीजनिंग की अवधारणा क्या है और यह सुरक्षा के लिए क्यों महत्वपूर्ण है?
- AI मॉडल के 'वेट्स' क्या दर्शाते हैं और वे मॉडल के प्रदर्शन को कैसे प्रभावित करते हैं?