Skip to content

3.1 Context Window Management

🎯 Objective (इस लेसन का मक़सद)

इस लेसन को पूरा करने के बाद आप:

  • समझ पाएंगे कि Context Window क्या होती है और यह कैसे काम करती है।
  • जानेंगे कि चैट बहुत लंबी होने पर AI क्यों कन्फ्यूज़ होने लगता है।
  • /compact और /clear का सही समय पर इस्तेमाल करके 70-80% टोकन और पैसे बचाना सीखेंगे।

💡 Real-Life Analogy (आसान मिसाल)

मिसाल (छोटा राइटिंग पैड / व्हाइटबोर्ड):
मान लीजिए आपके पास एक छोटा व्हाइटबोर्ड है जिसपर सिर्फ 20 लाइनें लिखी जा सकती हैं।
अगर आप हर छोटी बात लिखते जाएंगे और पुरानी बातें नहीं मिटाएंगे, तो बोर्ड भर जाएगा और नई बात लिखने की जगह नहीं बचेगी।
/compact का मतलब है: पुरानी 15 बातों का सिर्फ 2 लाइनों में साफ सारांश लिख देना, ताकि आगे के काम के लिए जगह खाली हो जाए।


📖 Key Terms & Glossary (ज़रूरी शब्द)

Term (शब्द) Simple Meaning (आसान मतलब) Example (मिसाल)
Token AI के पढ़ने की इकाई (~4 अक्षर या 1 शब्द ≈ 1.3 टोकन) 1,000 शब्द ≈ 1,300 टोकन
Context Bloat चैट में जरूरत से ज्यादा पुराने लॉग्स और कचरा जमा होना 150k टोकन का भारी सेशन
Hallucination मेमोरी भरने पर AI का गलत या अंदाज़े से जवाब देना गलत फाइल पाथ्स मान लेना
Input vs Output Cost AI को सवाल भेजने का खर्च vs AI के जवाब लिखने का खर्च इनपुट सस्ता होता है, आउटपुट महंगा

📊 चैट भारी होने का असर (Problem vs Solution)

[ शुरुआत: फ्रेश सेशन ]    ───> 5,000 Tokens   ───> तेज़ रिस्पॉन्स और बहुत कम खर्च ($0.01)
                                (कई फाइल्स पढ़ने के बाद)
[ भारी सेशन (Bloated) ]   ───> 120,000 Tokens ───> धीमा रिस्पॉन्स, भारी खर्च ($0.40 प्रति सवाल!)
                                (Ran /compact)
[ हल्का सेशन (Compacted)] ───> 15,000 Tokens  ───> फिर से तेज़ और कम खर्च ($0.04!)

🔄 /compact कैसे काम करता है?

जब आप /compact कमांड चलाते हैं:

  1. पुरानी हिस्ट्री समेटना: पिछली 25-30 बातचीत को 4-5 मुख्य पॉइंट्स में छोटा कर देता है।
  2. भारी लॉग्स हटाना: टेस्ट और टर्मिनल के 500 लाइनों के लंबे आउटपुट को साफ कर देता है।
  3. ज़रूरी बात याद रखना: यह याद रखता है कि किस फाइल पर काम चल रहा था और अगला कदम क्या है।

⚖️ /compact vs /clear — कब कौन सा इस्तेमाल करें?

स्थिति कौन सा कमांड चलाएं? क्यों?
उसी काम पर आगे बढ़ना है लेकिन सेशन लंबा हो गया है > /compact ताकि पिछला जरूरी कॉन्टेक्स्ट याद रहे लेकिन टोकन साइज छोटा हो जाए।
पिछला काम पूरा हो गया, अब बिल्कुल नया काम शुरू करना है > /clear ताकि पुराने काम की बातें नए काम में रुकावट न बनें।

💡 पैसे और टोकन बचाने के 4 नियम

  1. सटीक प्रॉम्प्ट दें: पूरे प्रोजेक्ट को स्कैन करवाने के बजाय खास फाइल का नाम बताएं (जैसे src/utils/math.js)।
  2. लंबे एरर लॉग्स चैट में न डालें: इसके बजाय कहें: “error.log फाइल में लाइन 50 से 80 तक चेक करो”.
  3. हर 30-40 मिनट में कॉम्पैक्ट करें: लंबी कोडिंग के दौरान /compact चलाने की आदत बनाएं।
  4. हर 4-5 सवाल के बाद खर्च देखें: > /cost से खर्च ट्रैक करते रहें।

⚠️ Common Mistakes & Pro Tips (बचने वाली गलतियाँ)

  • गलती: बिना /compact किए घंटों तक एक ही सेशन चलाते रहना।
  • Pro Tip: नए काम पर जाने से पहले हमेशा > /clear करें।

📝 Practice Challenge (खुद करके देखें)

  1. टर्मिनल में > /cost चलाकर अभी के टोकन देखें।
  2. 2-3 फाइल्स पढ़वाएं और फिर से > /cost देखें।
  3. > /compact चलाएं और देखें कि टोकन काउंट कैसे कम होता है!

📌 Quick Revision Summary (मुख्य बातें)

  • Context Window AI की मेमोरी लिमिट होती है; इसके भरने पर स्पीड स्लो और खर्च बढ़ जाता है।
  • /compact जरूरी बातों को रखकर एक्स्ट्रा लॉग्स हटा देता है।
  • नया काम शुरू करने से पहले /clear करना सबसे बेस्ट तरीका है।

🧭 Next Steps & Navigation

Last updated on