AI एजेंट पर खर्च की सीमा और किल स्विच कैसे लगाएं

बिना सीमाओं वाला एजेंट एक बहुत तेज़ इंटर्न के हाथ में क्रेडिट कार्ड थमाने जैसा है, जो कभी सोता नहीं। ज़्यादातर समय सब ठीक रहता है। लेकिन जिस एक बार कोई टूल ऐसी त्रुटि लौटाता है जो एजेंट समझ नहीं पाता, वह दोबारा कोशिश करता है, त्रुटि पढ़ता है, फिर कोशिश करता है और तब तक चलता रहता है जब तक आपका API बैलेंस खत्म न हो जाए।

मैं बहुत से एजेंट चलाता हूं और मेरा नियम सीधा है: खर्च की सीमा, स्टेप की सीमा और किल स्विच के बिना कोई एजेंट लाइव नहीं जाता। इनमें से कुछ भी जोड़ना मुश्किल नहीं है। इन्हें छोड़ देना ही महंगा पड़ता है।

एजेंट ज़रूरत से ज़्यादा खर्च क्यों करते हैं

साधारण स्क्रिप्ट हर बार उतना ही काम करती है। एजेंट खुद तय करता है कि कितना काम करना है, और उसे इस्तेमाल करने का मकसद यही है। यही जोखिम भी है। बेकाबू बिलों के लगभग सभी मामले चार कारणों से होते हैं:

1. रीट्राई लूप। कोई टूल फेल होता है, एजेंट थोड़े बदले इनपुट से दोबारा कोशिश करता है, फिर फेल होता है और यही दोहराता रहता है।
2. बढ़ता हुआ संदर्भ। हर स्टेप बातचीत में जुड़ता है, इसलिए हर कॉल पिछली से महंगी होती है। 40 स्टेप वाला रन, 1 स्टेप वाले रन के 40 गुना से कहीं ज़्यादा महंगा पड़ता है।
3. फैन-आउट। एजेंट सब-टास्क बनाता है और हर सब-टास्क और बनाता जाता है।
4. ट्रिगर का बहुत बार चलना। शेड्यूल्ड जॉब या आने वाला वेबहुक 5 बार की जगह 500 बार चलता है।

हर कॉल की लागत के आंकड़े मैंने AI agent cost math में खोलकर बताए हैं। यह लेख औसत के बारे में नहीं, ऊपरी सीमा के बारे में है।

सीमा 1: खर्च की कड़ी सीमा

हर एजेंट के लिए दो संख्याएं तय करें: प्रति रन अधिकतम खर्च और प्रति दिन अधिकतम खर्च।

इन्हें काम की कीमत के हिसाब से चुनें। अगर कोई एजेंट आपका इनबॉक्स छांटकर रोज़ बीस मिनट बचाता है, तो उसे एक रन में 40 डॉलर खर्च करने की इजाज़त नहीं होनी चाहिए। अच्छी शुरुआत सामान्य रन की लागत का पांच गुना है। अगर सामान्य रन की लागत 20 सेंट है, तो हर रन को 1 डॉलर और हर दिन को 10 डॉलर पर सीमित करें। जब पहली बार सीमा किसी वैध काम को रोके, तब उसे बढ़ा दें। यह एक अच्छी समस्या है।

इसे लागू करने की दो जगहें:

• प्रोवाइडर पर। Anthropic या OpenAI कंसोल में मासिक खर्च की सीमा तय करें। यह आपका आखिरी सुरक्षा जाल है और इसमें दो मिनट लगते हैं। आपका अपना कोड गलत हो तब भी यह सबसे बुरी स्थिति रोक देता है।
• अपने कोड में। रन के दौरान इस्तेमाल हुए टोकन का चालू योग रखें, उसे डॉलर में बदलें, और प्रति रन सीमा पार होते ही रुक जाएं। दिन का कुल योग किसी टिकाऊ जगह पर रखें ताकि रीस्टार्ट से वह शून्य न हो जाए।

सीमा 2: अधिकतम स्टेप की संख्या

स्टेप की सीमा सबसे आसान सुरक्षा है और उन लूप को पकड़ लेती है जिन्हें डॉलर की सीमा बहुत देर से पकड़ती है। तय करें कि एक सेहतमंद रन ज़्यादा से ज़्यादा कितने स्टेप लेता है, उसमें थोड़ा मार्जिन जोड़ें और वहीं रोक दें।

अगर आपका सबसे लंबा सामान्य रन 12 टूल कॉल लेता है, तो सीमा 25 रखें। जब एजेंट उस तक पहुंचे, तो उसे चुपचाप आगे न बढ़ने दें। रन खत्म करें, कारण दर्ज करें और खुद को संदेश भेजें। स्टेप की सीमा से टकराने वाला रन एक बग रिपोर्ट है, और आप उसे पढ़ना चाहेंगे।

यही विचार एक जैसी बार-बार की कॉल पर भी लागू होता है: अगर एजेंट एक ही इनपुट के साथ एक ही टूल को लगातार तीन बार कॉल करे, तो उसे रोक दें। यह प्रगति नहीं, लूप है।

सीमा 3: ऐसा किल स्विच जिसे डिप्लॉय की ज़रूरत नहीं

जब रात के दो बजे कुछ गड़बड़ हो, तब आप कोड बदलना, दोबारा बनाना और फिर से डिप्लॉय करना नहीं चाहते। आप बस एक स्विच पलटना चाहते हैं।

किल स्विच एक अकेला फ्लैग है जिसे एजेंट हर स्टेप की शुरुआत में जांचता है, सिर्फ रन की शुरुआत में नहीं। अगर फ्लैग कहे कि रुको, तो एजेंट रुक जाता है। फ्लैग कहां रखा है, यह उतना मायने नहीं रखता जितना यह कि आप उसे फोन से बदल सकें: की-वैल्यू स्टोर की एक कुंजी, डेटाबेस की एक पंक्ति, या ऐसा एनवायरनमेंट वेरिएबल जिसे आपका प्लेटफॉर्म बिना दोबारा डिप्लॉय किए बदलने दे।

इन बारीकियों का ध्यान रखें:

• इसे बार-बार जांचें। जो फ्लैग सिर्फ स्टार्टअप पर पढ़ा जाता है, वह पहले से चल रहे रन को नहीं रोक सकता।
• रुकना सुरक्षित बनाएं। एजेंट को जिस काम के बीच में है उसे पूरा या वापस करना चाहिए, आधा भेजा ईमेल या आधी बुक की गई अपॉइंटमेंट नहीं छोड़नी चाहिए।
• गड़बड़ी में बंद रहें। अगर एजेंट फ्लैग नहीं पढ़ पाता, तो वह रुक जाता है। टूटे हुए फ्लैग स्टोर का मतलब असीमित खर्च नहीं होना चाहिए।
• एक बार टेस्ट करें। स्टेजिंग कॉपी पर स्विच पलटें और उसे रुकते देखें। बिना टेस्ट किया किल स्विच सिर्फ उम्मीद है।

एक संबंधित नियंत्रण, अप्रूवल स्टेप, मैंने human-in-the-loop agents में कवर किया है। अप्रूवल बुरे कामों को रोकते हैं। सीमाएं बुरे खर्च को रोकती हैं। आपको दोनों चाहिए।

अलर्ट जोड़ें ताकि सबसे पहले आपको पता चले

सीमाएं आपके बजट की रक्षा करती हैं, लेकिन आपको फिर भी जानना होगा कि वे कब चलीं। दैनिक सीमा के 50% और 80% पर संदेश भेजें, और हर बार जब कोई रन स्टेप सीमा या किल स्विच से कटे। फिर उन्हें पढ़ें। जिस अलर्ट को आप अनदेखा करना सीख चुके हैं उसकी कोई कीमत नहीं, इसलिए अगर कोई लगातार बजता है तो कारण ठीक करें या सीमा बदलें।

अगर आप हर स्टेप को ट्रेस आईडी के साथ दर्ज भी करते हैं, तो साफ दिखता है कि किस रन ने पैसा जलाया। यह सेटअप मैं how to debug an AI agent in production में बताता हूं।

तीनों सीमाएं जोड़ने वाला प्रॉम्प्ट

इसे खुद लिखने की ज़रूरत नहीं। जिस फ़ोल्डर में आपके एजेंट का कोड है, वहां Claude खोलें और यह चिपकाएं:

Read my agent's code. Add three safety limits and show me every file you change:
1. A per-run and per-day spending cap, computed from token usage. Read the limits
   from configuration, and stop the run with a clear logged reason when either is hit.
2. A maximum step count per run, plus a stop if the same tool is called with the same
   input three times in a row.
3. A kill switch: a flag checked before every step that stops the agent safely.
   If the flag can't be read, the agent must stop.
Then list what you assumed about where the flag should live, and give me a short
checklist to test each limit on a non-production copy.

नतीजे पर भरोसा करने से पहले तीन बातें जांचें: डॉलर का हिसाब आपके मॉडल की मौजूदा कीमतों पर आधारित है (मॉडल उन्हें अंदाज़े से लिख सकता है), फ्लैग हर स्टेप पर पढ़ा जाता है, और आपने हर सीमा को एक बार चलाकर देखा है। मॉडल ऐसी सीमा खुशी से लिख देते हैं जो कभी चलती ही नहीं।

उन सबसे सख्त संख्याओं से शुरू करें जिनके साथ आप रह सकें

पहले दिन सीमाएं कड़ी रखें और सबूत देखकर ढीली करें। जो सीमा किसी वैध रन को रोके, उसकी कीमत कुछ मिनट है। सीमा न होने की कीमत एक रात में पूरे महीने का बजट हो सकती है। एजेंट के किसी असली चीज़ को छूने से पहले सीमाएं लगा दें, और बाकी निर्माण कहीं ज़्यादा शांत हो जाएगा।