मानव निगरानी वाले AI एजेंट: अनुमोदन गेट कब बनाएं (और कब नहीं)

विषय सूची

जुलाई 2026 में प्रकाशित।

TL;DR: अनुमोदन गेट तब समझ में आता है जब गलती महंगी, अपरिवर्तनीय या ग्राहक-सामना हो — और जब कोई इंसान इसे समय पर पकड़ सके। जब वॉल्यूम समीक्षा के लिए बहुत अधिक हो, गलतियां सस्ती हों, या लोग बिना पढ़े अनुमोदन दे दें, तब नहीं। मैं चार सवालों से तय करता हूं, और मेरे 30 से अधिक प्रोडक्शन एजेंटों में से अधिकांश पूरी तरह स्वचालित चलते हैं।

ऑपरेटर की टिप्पणी: मैं दो व्यवसायों में एजेंट चलाता हूं — एक परामर्श ब्रांड और टेक्सास के पफ्लुगर्विल में पिकलेलैंड, एक पिकलबॉल सुविधा। शुरुआत में मैंने हर जगह अनुमोदन गेट लगाए क्योंकि यह “सुरक्षित” लगा। हफ्तों में, मेरे पास एक Slack चैनल था जो ऐसी सूचनाओं से भरा था जिन्हें कोई नहीं पढ़ता, और तकनीकी रूप से निगरानी में पर व्यावहारिक रूप से बिना निगरानी के एजेंट थे। यह गेट न होने से भी बुरा है: बिना सार के निगरानी का भ्रम। यह लेख बताता है कि मैं अब इस निर्णय के बारे में कैसे सोचता हूं।

मानव निगरानी गेट वास्तव में क्या है

सबसे सरल शब्दों में, अनुमोदन गेट एजेंट के वर्कफ्लो में एक रुकावट है जहां एजेंट आगे बढ़ने से पहले किसी इंसान को पुष्टि करनी होती है। एजेंट ईमेल का मसौदा तैयार करता है — एक इंसान भेजने से पहले इसे अनुमोदित करता है। एजेंट किसी लेन-देन को फ्लैग करता है — रिफंड प्रोसेस होने से पहले एक इंसान समीक्षा करता है।

गेट सिंक्रोनस हो सकता है (एजेंट तब तक रुकता है जब तक कोई अनुमोदन नहीं करता) या एसिंक्रोनस (एजेंट कार्रवाई को कतार में डालता है, सूचना भेजता है, और कोई इंसान डैशबोर्ड या Slack संदेश से अपनी गति से अनुमोदन करता है)। समय-महत्वपूर्ण नहीं होने वाली हर चीज के लिए एसिंक्रोनस लगभग हमेशा बेहतर होता है।

मेरे चार सवाल

गेट जोड़ने से पहले, मैं चार सवालों पर विचार करता हूं। किसी एक पर “हां” एक की विचार करने का संकेत है। सभी चार पर “हां” का मतलब है कि गेट संरचनात्मक रूप से आवश्यक है।

1. क्या कार्रवाई अपरिवर्तनीय है (या वापस करना महंगा है)?

10,000 लोगों को ईमेल भेजना वापस नहीं लिया जा सकता। भुगतान जमा करना आसानी से वापस नहीं बुलाया जा सकता। बिना बैकअप के डेटाबेस रिकॉर्ड हटाना स्थायी है। अपरिवर्तनीयता गेट के लिए सबसे मजबूत तर्क है।

इसकी तुलना: किसी इनकमिंग क्वेरी को श्रेणी टैग लगाना। अगर टैग गलत है, दो क्लिक में ठीक कर लेते हैं। गेट की जरूरत नहीं।

2. अगर एजेंट गलत हो तो कौन भुगतान करता है?

आंतरिक लेबल गलत — कुछ सेकंड में ठीक करना पड़ता है। ग्राहक-सामना ईमेल गलत — ग्राहक बुरे अनुभव से और मैं विश्वास खोने से भुगतान करता हूं। वित्तीय लेन-देन गलत — असली पैसे और अनुपालन जोखिम से भुगतान करता हूं।

3. क्या कोई इंसान वास्तव में मायने पड़ने से पहले गलती पकड़ सकता है?

यह वह सवाल है जिसे ज्यादातर लोग छोड़ देते हैं। अगर एजेंट प्रति घंटे 500 आइटम प्रोसेस करता है और आपको प्रति आइटम एक Slack सूचना मिलती है, तो कोई सभी 500 नहीं पढ़ेगा। आप निगरानी नहीं, अलर्ट थकान पैदा कर रहे हैं।

4. क्या लोग एजेंट द्वारा प्रस्तुत सामग्री विश्वसनीय रूप से पढ़ते हैं?

अगर आपकी अनुमोदन कतार भर जाती है और लोग बिना पढ़े अनुमोदन करते हैं, तो गेट गेट न होने से बुरा है।

गेट कब स्पष्ट रूप से समझ में आते हैं

ये वे पैटर्न हैं जहां मैं हमेशा गेट जोड़ता हूं, बिना किसी अपवाद के:

• अपरिवर्तनीय बाहरी संचार — असली लोगों को जाने वाले ईमेल, SMS, सोशल मीडिया पोस्ट। एजेंट मसौदा तैयार करता है; इंसान भेजता है।
• एक सीमा से ऊपर की वित्तीय कार्रवाइयां — पैसे हिलाने वाली कोई भी चीज को गेट मिलता है अगर यह मेरे द्वारा संदर्भ के अनुसार निर्धारित न्यूनतम से ऊपर है।
• नए पैटर्न जो एजेंट ने पहले नहीं देखे — अगर एजेंट का क्लासिफायर कुछ को “अज्ञात” के रूप में फ्लैग करता है, तो वह एक जबरदस्ती एस्केलेशन है।
• अनुपालन-संवेदनशील आउटपुट — HIPAA, PCI, कानूनी नोटिस या विनियमित वित्तीय सामग्री को छूने वाली कोई भी चीज एक व्यक्ति द्वारा समीक्षा की जाती है।

गेट उत्पाद को चुपचाप कब मार देते हैं

ये वे पैटर्न हैं जहां गेट सुरक्षित लगता है लेकिन अपनाना चुपचाप तोड़ देता है:

• उच्च-मात्रा, प्रतिवर्ती संचालन — अगर दो क्लिक में पूर्ववत किया जा सकता है और दिन में 200 बार होता है, तो समीक्षा थकान जीत जाएगी।
• समय-संवेदनशील वर्कफ्लो — 30 सेकंड में आने वाली ग्राहक पूछताछ का जवाब देने वाले एजेंट का सिंक्रोनस गेट नहीं होना चाहिए।
• कार्य जहां इंसान के पास एजेंट से कम संदर्भ है — अगर एजेंट ने वर्गीकरण के लिए 50 पेज का संदर्भ पढ़ा और समीक्षक को एक पंक्ति का सारांश मिलता है, तो समीक्षा नाटक है।
• आंतरिक समृद्धि और लेबलिंग — CRM रिकॉर्ड टैग करना, खर्चों को वर्गीकृत करना, मीटिंग नोट्स सारांशित करना। दांव रुकावट को उचित नहीं ठहराता।

मेरे वास्तव में लागू करने वाले तीन गेट पैटर्न

जब गेट उचित हो, मैं तीन कार्यान्वयन में से एक चुनता हूं:

1. Slack/ईमेल के माध्यम से एसिंक्रोनस अनुमोदन

एजेंट मसौदा पूरा करता है, प्रस्तावित कार्रवाई और अनुमोदन/अस्वीकरण बटन के साथ निर्दिष्ट Slack चैनल में संदेश पोस्ट करता है, और रुक जाता है। मैं Cloudflare Queues का उपयोग करता हूं और एक अलग Worker जो फिर से शुरू करने से पहले अनुमोदन webhook सुनता है।

किसके लिए अच्छा काम करता है: ईमेल मसौदे, सोशल सामग्री, महत्वपूर्ण CRM अपडेट।

2. विश्वास-आधारित एस्केलेशन

एजेंट उच्च-विश्वास आउटपुट के लिए पूरी तरह से स्वचालित रूप से चलता है (मान लीजिए, संरचित स्कीमा पर ≥0.85 विश्वास) और कम-विश्वास आइटम को मानव कतार में भेजता है।

किसके लिए अच्छा काम करता है: वर्गीकरण, रूटिंग, ट्राइएज।

3. बैच अनुमोदन के साथ डैशबोर्ड समीक्षा

प्रति-आइटम गेट के बजाय, सभी एजेंट आउटपुट समीक्षा डैशबोर्ड में आते हैं। एक इंसान बैच में समीक्षा करता है — उदाहरण के लिए, हर सुबह — और समूह में अनुमोदन या सुधार करता है।

किसके लिए अच्छा काम करता है: सामग्री निर्माण, रिपोर्ट मसौदे, निर्धारित सारांश।

अलर्ट थकान का जाल

आपके द्वारा जोड़ा गया हर गेट किसी के ध्यान पर एक स्थायी कर है। जोखिम केवल यह नहीं है कि एक गेट को नजरअंदाज किया जाए — यह है कि तीन गेट एक शोरगुल वाला Slack चैनल बनाते हैं।

मेरी अनुशासन: हर गेट में एक स्पष्ट मालिक और एक स्पष्ट SLA है। अगर कोई SLA के भीतर लगातार समीक्षा नहीं करता, तो गेट हटा दिया जाता है और ऑडिट ट्रेल से बदल दिया जाता है। मैं सभी अनुमोदन कतारों की मासिक ऑडिट करता हूं।

एजेंट विश्वसनीयता से जोड़ना

एक गेट एक विश्वसनीयता स्टैक की एक परत है, पूरा स्टैक नहीं। प्रोडक्शन एजेंट के लिए मेरा पूरा विश्वसनीयता स्टैक:

1. मूल्यांकन हार्नेस — डिप्लॉय करने से पहले सही आउटपुट की पुष्टि।
2. स्कीमा सत्यापन के साथ संरचित आउटपुट — एजेंट का आउटपुट एक टाइप किए गए स्कीमा तक सीमित है।
3. विश्वास सीमा — कम-विश्वास आउटपुट मानव समीक्षा में जाते हैं।
4. ऑडिट लॉग — एजेंट की हर कार्रवाई रिकॉर्ड की जाती है।
5. मानव अनुमोदन गेट — केवल उन कार्यों के लिए जहां ऊपरी पर्याप्त नहीं है।

मेरा अनुभव का नियम

अगर मैं नहीं चाहूंगा कि कोई जूनियर कर्मचारी पहले मुझसे जांचे बिना यह करे, तो एजेंट को एक गेट चाहिए। अगर मैं एक जूनियर कर्मचारी को बिना सोचे यह करने दूंगा, तो एजेंट को बिना निगरानी के चलना चाहिए।

अक्सर पूछे जाने वाले सवाल

मैं उस एजेंट को कैसे संभालूं जिसे अनुमोदन की जरूरत है लेकिन वह उच्च-मात्रा में चलता है?

आर्किटेक्चर बदलें: प्रति-आइटम अनुमोदन की मांग मत करें — प्रति-पैटर्न अनुमोदन की मांग करें। एजेंट को चलने दें, लेकिन उसे मानव समीक्षा के लिए सांख्यिकीय विसंगतियां प्रस्तुत करने दें।

अगर एक गलती गंभीर नुकसान पहुंचा सकती है लेकिन मैं पूर्ण मानव समीक्षा नहीं कर सकता?

यह आमतौर पर उस कार्रवाई के लिए अभी एजेंट तैनात न करने का संकेत है। वैकल्पिक रूप से, एक विश्वास सीमा का उपयोग करें। यदि आप Claude को मॉडल परत के रूप में उपयोग करते हैं, तो Anthropic SDK के टूल उपयोग पैटर्न एक “एस्केलेट” टूल को परिभाषित करना आसान बनाते हैं जिसे एजेंट तब बुला सकता है जब उसे विश्वास की कमी हो।