बोला गया सारांश — साथ पढ़ने के लिए प्ले दबाएँ: बोली जा रही पंक्ति ऊपर रहती है।
आप क्या सीखेंगे
अनुमानित समय: 30 मिनट
इस पाठ के अंत तक आप सक्षम होंगे:
- समझाएं कि AI मॉडल का ज्ञान प्रशिक्षण के दौरान कैसे बनता है और इसमें एक निश्चित cutoff क्यों होता है
- भविष्यवाणी करें कि कौन से विषय क्षमता क्षेत्र (बार-बार, प्रशिक्षण में हाल ही में, सुसंगत) में बैठते हैं बनाम किनारे (दुर्लभ, cutoff के बाद, विशेष, विवादास्पद)
- Staleness, असमान कवरेज, विरासत में मिला पूर्वाग्रह, और स्रोत amnesia को विशेषता ज्ञान विफलताओं के रूप में पहचानें
- Web search, retrieval/RAG, और tool use को उत्पाद सुविधाओं के रूप में पहचानें जो इस सीमा को संबोधित करते हैं
AI मॉडल में ज्ञान के अंतराल को समझना
(5 मिनट)
मॉडल को वह पता है जो उसे प्रशिक्षण के दौरान सामने आया था, और केवल वही। डिफ़ॉल्ट रूप से कोई real-time browsing नहीं, कोई जीवंत अनुभव नहीं, और ज्ञान cutoff पर एक कठोर रुकावट। व्यावहारिक प्रश्न "क्या AI को यह पता है? " नहीं है बल्कि "यह जो कुछ पढ़ा गया था उसमें यह कितनी अच्छी तरह प्रतिनिधित्व किया गया था? "
मॉडल ने क्या पढ़ा, और कब पढ़ना बंद किया
पढ़ने से पहले
आप AI से पिछले हफ्ते की एक समाचार घटना की व्याख्या करने के लिए कहते हैं। आपको परिणाम की कितनी बारीकी से जांच करने की आवश्यकता है? निरंतरता पर एक स्थान चुनें, फिर अपना अनुमान लॉक करें।
Next Token Prediction Knowledge Working Memory Steerability
##
क्षमता सीमा
इस पर विश्वास करें स्पॉट-चेक विवरण जांचें सावधानीपूर्वक सत्यापित करें उच्च जोखिम
आपका अनुमान
विशिष्ट
यह क्या सक्षम करता है
यह विशेषता के अनुसार कहां विफल होता है
उत्पाद सुविधाएं जो किनारे को बाहर धकेलती हैं
एक स्टॉप चुनें, फिर अपना अनुमान लॉक करें। पाठ एक बार खुल जाता है जब आप ऐसा करते हैं।
मेरा अनुमान लॉक करें
अपने अंतर्ज्ञान की जांच करें
विशिष्ट प्लेसमेंट के विरुद्ध तुलना करने के लिए ऊपर अपना अनुमान लॉक करें।
अनुकूलित करें
बार ऊंचाई
Pictogram आकार
पैलेट Sky → Clay Olive → Clay Cactus → Fig Slate → Clay
मुख्य बातें
- जनरेटिव AI को क्या पता है यह पूरी तरह से प्रशिक्षण डेटा से आता है और ज्ञान cutoff पर फ्रीज़ किया जाता है। उपकरणों के बिना, इसके पास उस तारीख के बाद की किसी भी जानकारी तक कोई पहुंच नहीं है।
- क्षमता क्षेत्र: विषय जो प्रशिक्षण डेटा में बार-बार, हाल ही में (प्रशिक्षण के भीतर), और सुसंगत रूप से दिखाई दिए।
- सीमा क्षेत्र: दुर्लभ, cutoff के बाद, विशेष, स्थानीय, या विवादास्पद विषय।
- विशेषता विफलताएं: staleness, असमान कवरेज, विरासत में मिला पूर्वाग्रह जो "डिफ़ॉल्ट" या "सामान्य" के रूप में गिना जाता है, और यह जानने में असमर्थता कि ज्ञान कहां से आया।
- Web search, retrieval (RAG/MCPs), और tool use विशेष रूप से इन अंतरालों को पैच करने के लिए मौजूद हैं मॉडल को ऐसी जानकारी तक पहुंच देकर जिस पर कभी प्रशिक्षण नहीं दिया गया था।
- 4D कनेक्शन: Knowledge असमानता Delegation के लिए मूल है। यह समझना कि मॉडल कहां अच्छी तरह से स्टॉक किया गया है बनाम कहां पतला है, आपको बताता है कि कब हाथ बंद करें, कब संदर्भ स्वयं आपूर्ति करें, और कब कहीं और जाएं।
अभ्यास
अभ्यास: The Outsider Test
_क्यों? आप जानते हैं कि मॉडल का ज्ञान व्यापक है लेकिन फ्रीज़ किया गया है, जो कुछ भी इसके प्रशिक्षण डेटा में था उससे आकार दिया गया है। अब आप अपने विशिष्ट डोमेन में बिल्कुल मैप करने जा रहे हैं कि यह कहां अच्छी तरह से स्टॉक किया गया है और कहां पतला है।_
अपनी कार्य सूची पर वापस जाएं और एक कार्य चुनें। उस कार्य के सापेक्ष, निम्नलिखित लिखें:
- दो विषय जो मुख्यधारा, अच्छी तरह से प्रलेखित, और स्थिर हैं। इस तरह की चीज जो कोई भी सूचित सहकर्मी जानता होगा।
- दो विषय जो विशेष, स्थानीय, हाल ही में, या तेजी से विकसित हो रहे हैं। उद्योग-विशिष्ट शब्दावली, क्षेत्रीय नियम, कुछ जो पिछले साल बदल गया।
- एक "डिफ़ॉल्ट धारणा" जो आपके क्षेत्र के बाहरी लोग अक्सर गलत समझते हैं। (विशिष्ट ग्राहक कौन है। एक "मानक" मामला क्या दिखता है। कौन सा उपकरण लोग वास्तव में उपयोग करते हैं बनाम जो प्रेस पाता है।)
अब तीन probes चलाएं:
- **Probe 1: Coverage. ** अपनी सूची से एक मुख्यधारा विषय और एक विशेष विषय के बारे में पूछें। गहराई और सटीकता की तुलना करें। ध्यान दें कि क्या AI दोनों के बीच अलग तरीके से अनिश्चितता का संकेत देता है, या क्या दोनों उत्तर एक ही आत्मविश्वास के साथ आते हैं।
- **Probe 2: Staleness. ** अपने क्षेत्र में कुछ ऐसा पूछें जो आप जानते हैं कि हाल ही में बदल गया है: एक नियम अपडेट, एक उपकरण रिलीज, एक नेतृत्व परिवर्तन, एक संशोधित मानक। क्या AI cutoff को स्वीकार करता है? Stale जानकारी को वर्तमान के रूप में प्रस्तुत करता है? उत्तर देने से इनकार करता है? ध्यान दें कि क्या होता है।
- **Probe 3: Default assumptions. ** अपनी धारणा को सीधे नाम दिए बिना, एक प्रश्न पूछें जो यह प्रकट करेगा कि क्या AI बाहरी के दृष्टिकोण को डिफ़ॉल्ट करता है। उदाहरण के लिए, यदि आपके क्षेत्र का "मानक" ग्राहक अधिकांश लोगों की धारणा से अलग है, तो AI को विशिष्ट ग्राहक का वर्णन करने के लिए कहें। ध्यान दें कि यह क्या सामान्य मानता है।
अपनी कार्य सूची पर वापस जाएं और एक दूसरी व्याख्या जोड़ें: प्रत्येक कार्य के लिए, ध्वज लगाएं कि क्या आप मॉडल के ज्ञान पर झुक सकते हैं, या क्या आपको संदर्भ, दस्तावेज़, या search के माध्यम से ज्ञान स्वयं लाना होगा।
Stretch goal: Web search सक्षम के साथ staleness probe को फिर से चलाएं। तुलना करें कि क्या बदलता है। यह retrieval कार्य में है।
पाठ प्रतिबिंब
- आपके काम का एक क्षेत्र कौन सा है जहां आप अब महसूस करते हैं कि आपको संदर्भ आपूर्ति करने की आवश्यकता है बजाय यह मान लेने के कि मॉडल के पास यह है?
- क्या default-assumption probe ने कुछ ऐसा सामने लाया जो आपको आश्चर्यचकित करता है?
अगला क्या है
Knowledge कवर करता है कि मॉडल ने प्रशिक्षण के दौरान क्या अवशोषित किया। Working Memory कवर करता है कि यह अभी किस पर ध्यान दे रहा है: आपका prompt, आपके दस्तावेज़, आपकी बातचीत। इस संपत्ति के सभी चार में सबसे कठोर किनारा है।
प्रतिक्रिया
जैसे ही आप पाठ्यक्रम के माध्यम से आगे बढ़ते हैं, हम आपसे सुनना पसंद करेंगे कि आप पाठ्यक्रम से अवधारणाओं का उपयोग अपने काम में कैसे कर रहे हैं, साथ ही आपके पास कोई भी प्रतिक्रिया हो सकती है। अपनी प्रतिक्रिया यहां साझा करें।
स्वीकृति और लाइसेंस
_Copyright 2026 Anthropic. Prof. Rick Dakan (Ringling College of Art and Design) और Prof. Joseph Feller (University College Cork) द्वारा विकसित AI Fluency Framework पर निर्माण करते हुए मूल कार्य। CC BY-NC-SA 4. 0 लाइसेंस के तहत जारी किया गया।_