22:52
Module 1: Limitations of Deep Learning
AI for All
Overview
यह मॉड्यूल डीप लर्निंग की सीमाओं पर केंद्रित है, जो बताता है कि न्यूरल नेटवर्क कितने शक्तिशाली होने के बावजूद, उनमें कुछ कमजोरियां हैं। इसमें ब्लैक बॉक्स नेचर, डेटा पर निर्भरता और बायस, ऊर्जा की खपत, और कॉमन सेंस व कॉज़ल अंडरस्टैंडिंग की कमी जैसी प्रमुख सीमाओं पर चर्चा की गई है। यह बताता है कि क्यों इन सीमाओं को समझना और दूर करना एआई के जिम्मेदार विकास के लिए महत्वपूर्ण है।
How was this?
Save this permanently with flashcards, quizzes, and AI chat
Chapters
- न्यूरल नेटवर्क्स इनपुट के आधार पर आउटपुट तो देते हैं, लेकिन यह समझाना मुश्किल होता है कि उन्होंने वह विशेष आउटपुट क्यों दिया।
- लाखों न्यूरॉन्स और एब्स्ट्रैक्ट फीचर्स के कारण, यह पता लगाना कठिन है कि गलती कहां हुई या निर्णय कैसे लिया गया।
- जहां इंटरप्रिटेबिलिटी (व्याख्यात्मकता) महत्वपूर्ण है, जैसे लोन अप्रूवल या अकाउंट डिलीट करने में, वहां न्यूरल नेटवर्क्स उतने भरोसेमंद नहीं होते जितने डिसीजन ट्रीज या रिग्रेशन मॉडल्स।
यह सीमा महत्वपूर्ण है क्योंकि यह उन क्षेत्रों में न्यूरल नेटवर्क्स के उपयोग को सीमित करती है जहां निर्णयों की व्याख्या करना या समझाना आवश्यक है, जैसे कि बैंकिंग या कानूनी मामले।
एक इमेज रिकग्निशन मॉडल जो बिल्ली की फोटो को गलती से कार बता देता है, और यह समझा नहीं पाता कि उसने यह गलती क्यों की।
- न्यूरल नेटवर्क्स केवल उस डेटा से सीखते हैं जो उन्हें दिया जाता है; वे स्वयं से कुछ नहीं जानते।
- यदि प्रशिक्षण डेटा अधूरा, असंतुलित, या किसी विशेष बायस (पूर्वाग्रह) से भरा है, तो नेटवर्क भी उसी बायस को सीख लेगा और उसी के अनुसार परिणाम देगा।
- बायस जेंडर, लैंग्वेज, या ज्योग्राफिक जैसे विभिन्न रूपों में हो सकता है, जिससे मॉडल के निर्णय अनुचित या पक्षपाती हो सकते हैं।
यह सीमा महत्वपूर्ण है क्योंकि यह एआई सिस्टम में अनजाने में भेदभाव और अनुचित परिणामों को जन्म दे सकती है, जिससे सामाजिक असमानताएं बढ़ सकती हैं।
एक लोन अप्रूवल सिस्टम जो पिछले 10 साल के डेटा पर प्रशिक्षित है, जहां अधिकतर लोन पुरुषों को मिले थे, जिससे सिस्टम महिलाओं के आवेदनों को पक्षपातपूर्ण तरीके से रिजेक्ट कर सकता है।
- न्यूरल नेटवर्क्स को प्रशिक्षित करने के लिए भारी मात्रा में कंप्यूटेशनल पावर और ऊर्जा की आवश्यकता होती है, जिसमें लाखों-करोड़ों गणनाएं शामिल होती हैं।
- ट्रेनिंग के दौरान न केवल कंप्यूटेशन के लिए, बल्कि कूलिंग सिस्टम को चलाने के लिए भी बहुत अधिक बिजली की खपत होती है।
- जैसे-जैसे एआई मॉडल अधिक जटिल और व्यापक होते जाएंगे, उनकी ऊर्जा की मांग बढ़ेगी, जो एक महत्वपूर्ण पर्यावरणीय चिंता का विषय बन जाएगी।
यह सीमा एआई के पर्यावरणीय प्रभाव को उजागर करती है, जिससे ग्रीन एआई (कम ऊर्जा खपत वाले कुशल मॉडल) के विकास की आवश्यकता पर जोर दिया जाता है।
एक लार्ज लैंग्वेज मॉडल (जैसे GPT) को ट्रेन करने में लगभग 10 गीगावाट-घंटे बिजली खर्च हो सकती है, जो हजारों घरों की वार्षिक खपत के बराबर है।
- न्यूरल नेटवर्क्स पैटर्न को पहचान सकते हैं लेकिन अक्सर उनके पीछे के कारण (कॉज़ेशन) को नहीं समझते।
- वे सहसंबंध (कोरिलेशन) को कारण (कॉज़ेशन) समझ सकते हैं, जिससे गलत निष्कर्ष निकल सकते हैं, जैसे बारिश और मेट्रो यात्रियों की संख्या के बीच संबंध को कारण-कार्य संबंध मान लेना।
- एआई में कॉमन सेंस की कमी उन्हें इंसानों की तरह वास्तविक दुनिया की जटिलताओं और संदर्भों को समझने से रोकती है, जिससे वे 'ब्रिलिएंट इमीटेटर्स' तो बन जाते हैं, पर 'थिंकर्स' नहीं।
यह सीमा दर्शाती है कि एआई अभी भी इंसानी समझदारी और निर्णय लेने की क्षमता से बहुत दूर है, खासकर उन स्थितियों में जहां कारण और प्रभाव को समझना महत्वपूर्ण है।
एक मेट्रो यात्री भविष्यवाणी मॉडल जो बारिश को यात्रियों की संख्या में कमी का कारण मान लेता है, जबकि वास्तविक कारण परीक्षा या छुट्टी हो सकती है।
Key takeaways
- न्यूरल नेटवर्क्स शक्तिशाली उपकरण हैं, लेकिन उनकी व्याख्यात्मकता (explainability) की कमी एक बड़ी सीमा है, खासकर महत्वपूर्ण निर्णयों के लिए।
- एआई सिस्टम में बायस डेटा से उत्पन्न होता है; इसलिए, डेटा की गुणवत्ता, विविधता और संतुलन सुनिश्चित करना जिम्मेदार एआई विकास के लिए महत्वपूर्ण है।
- बड़े एआई मॉडलों को प्रशिक्षित करने और चलाने के लिए आवश्यक भारी ऊर्जा खपत एक गंभीर पर्यावरणीय चुनौती है।
- न्यूरल नेटवर्क्स पैटर्न पहचान सकते हैं, लेकिन कारण और प्रभाव को समझने की उनकी क्षमता सीमित है, जो उन्हें वास्तविक दुनिया की समझ में पीछे रखती है।
- बुद्धिमत्ता केवल सीखने में नहीं, बल्कि समझने, व्याख्या करने और कारण-कार्य संबंध को समझने में भी निहित है।
Key terms
Black Box NatureBias (Data Bias)InterpretabilityData DependenceEnergy ConsumptionCommon SenseCausal UnderstandingCorrelation vs. CausationGreen AI
Test your understanding
- न्यूरल नेटवर्क्स के 'ब्लैक बॉक्स नेचर' का क्या मतलब है और यह किन स्थितियों में समस्या पैदा कर सकता है?
- डेटा बायस क्या है और यह न्यूरल नेटवर्क के आउटपुट को कैसे प्रभावित कर सकता है? उदाहरण सहित समझाएं।
- न्यूरल नेटवर्क की ट्रेनिंग में ऊर्जा की खपत इतनी अधिक क्यों होती है और इसके क्या पर्यावरणीय प्रभाव हो सकते हैं?
- कॉमन सेंस और कॉज़ल अंडरस्टैंडिंग की कमी न्यूरल नेटवर्क्स को इंसानों से कैसे अलग करती है?
- एआई सिस्टम को अधिक भरोसेमंद और जिम्मेदार बनाने के लिए इन सीमाओं को दूर करने के लिए क्या कदम उठाए जा सकते हैं?