كيف تضع سقف إنفاق ومفتاح إيقاف طارئ لوكيل ذكاء اصطناعي

الوكيل بلا حدود مثل بطاقة ائتمان بيد متدرب سريع جدًا لا ينام أبدًا. في أغلب الأحيان لا يحدث شيء. لكن في المرة الوحيدة التي تعيد فيها أداة خطأً لا يفهمه الوكيل، يعيد المحاولة، ويقرأ الخطأ، ويعيد المحاولة مرة أخرى، ويستمر حتى ينفد رصيد واجهة البرمجة لديك.

أشغّل وكلاء كثيرين، وقاعدتي بسيطة: لا يُطلق أي وكيل قبل أن يملك سقف إنفاق وحدًّا للخطوات ومفتاح إيقاف طارئ. لا يصعب إضافة أي منها. الأغلى هو تجاهلها.

لماذا ينفق الوكلاء أكثر مما ينبغي

السكربت العادي يؤدي القدر نفسه من العمل في كل مرة. أما الوكيل فيقرر بنفسه كم من العمل يؤدي، وهذا سبب استخدامه، وهو أيضًا الخطر. تفسّر أربعة أسباب تقريبًا كل الفواتير التي خرجت عن السيطرة:

1. حلقات إعادة المحاولة. تفشل أداة، فيعيد الوكيل المحاولة بمدخل مختلف قليلًا، ويفشل مجددًا، ويكرر.
2. سياق يتضخم. كل خطوة تُضاف إلى المحادثة، فتكلّف كل استدعاء أكثر من سابقه. تكلفة تشغيلة من 40 خطوة أعلى بكثير من 40 ضعف تشغيلة من خطوة واحدة.
3. التفرّع. يُنشئ الوكيل مهامّ فرعية، وكل منها يُنشئ المزيد.
4. مشغّل يعمل أكثر من اللازم. مهمة مجدولة أو webhook وارد يعمل 500 مرة بدلًا من 5.

فصّلتُ أرقام تكلفة الاستدعاء الواحد في AI agent cost math. هذا المقال عن السقف، لا عن المتوسط.

الحد الأول: سقف إنفاق صارم

حدّد رقمين لكل وكيل: أقصى إنفاق لكل تشغيلة وأقصى إنفاق لكل يوم.

اخترهما بحسب قيمة العمل. إذا كان وكيل يفرز بريدك الوارد ويوفّر عليك عشرين دقيقة يوميًا، فلا ينبغي أن يُسمح له بإنفاق 40 دولارًا في تشغيلة واحدة. نقطة بداية جيدة هي خمسة أضعاف تكلفة التشغيلة العادية. إذا كانت التشغيلة المعتادة تكلّف 20 سنتًا، فحدّ التشغيلة بدولار واحد واليوم بعشرة دولارات. يمكنك رفع السقف أول مرة يمنع فيها عملًا مشروعًا، وهذه مشكلة جيدة.

مكانان لتطبيقه:

• عند المزوّد. اضبط حد إنفاق شهريًا في لوحة تحكم Anthropic أو OpenAI. هذه شبكة أمانك وتستغرق دقيقتين. توقف أسوأ الاحتمالات حتى لو كان كودك نفسه خاطئًا.
• في كودك أنت. احتفظ بمجموع جارٍ للرموز المستخدمة أثناء التشغيلة، وحوّله إلى دولارات، وتوقف حين يتجاوز سقف التشغيلة. خزّن مجموع اليوم في مكان دائم حتى لا تصفّره إعادة التشغيل.

الحد الثاني: عدد أقصى من الخطوات

سقف الخطوات هو أبسط حماية، ويلتقط الحلقات التي يرصدها سقف الدولار متأخرًا. حدّد أكبر عدد خطوات تحتاجه تشغيلة سليمة، وأضف هامشًا، ثم توقف عنده.

إذا كانت أطول تشغيلة عادية عندك تستخدم 12 استدعاء أداة، فاضبط الحد على 25. وعندما يبلغه الوكيل، لا تتركه يواصل بصمت. أنهِ التشغيلة، وسجّل السبب، وأرسل لنفسك رسالة. التشغيلة التي تصطدم بسقف الخطوات هي تقرير خلل، وستحتاج إلى قراءته.

والفكرة نفسها تنطبق على الاستدعاءات المتطابقة المتكررة: إذا استدعى الوكيل الأداة نفسها بالمدخل نفسه ثلاث مرات متتالية، فأوقفه. هذه حلقة وليست تقدّمًا.

الحد الثالث: مفتاح إيقاف لا يحتاج إلى نشر

حين يسوء شيء في الثانية فجرًا، لا تريد أن تعدّل الكود وتعيد البناء وتعيد النشر. تريد أن تقلب مفتاحًا واحدًا.

مفتاح الإيقاف الطارئ هو علامة واحدة يفحصها الوكيل في بداية كل خطوة، لا في بداية التشغيلة فحسب. إذا قالت العلامة توقف، توقف الوكيل. مكان وجود العلامة أقل أهمية من قدرتك على تغييرها من هاتفك: مفتاح في مخزن مفاتيح وقيم، أو صف في قاعدة بيانات، أو متغير بيئة تتيح لك منصتك تعديله دون إعادة نشر.

انتبه إلى هذه التفاصيل:

• افحصها كثيرًا. العلامة التي تُقرأ عند التشغيل فقط لا تستطيع إيقاف تشغيلة جارية بالفعل.
• اجعل الإيقاف آمنًا. ينبغي أن ينهي الوكيل الإجراء الذي هو في منتصفه أو يتراجع عنه، لا أن يترك بريدًا نُصف مُرسل أو موعدًا نُصف محجوز.
• افشل في وضع الإغلاق. إذا لم يستطع الوكيل قراءة العلامة، فإنه يتوقف. تعطّل مخزن العلامات يجب ألا يعني إنفاقًا بلا حدود.
• اختبره مرة واحدة. اقلب المفتاح على نسخة تجريبية وشاهد الوكيل يتوقف. مفتاح إيقاف لم يُختبر ليس سوى أمنية.

تناولتُ ضبطًا مرتبطًا، وهو خطوة الموافقة، في human-in-the-loop agents. الموافقات توقف الإجراءات السيئة. والسقوف توقف الإنفاق السيئ. أنت تريد الاثنين.

أضف تنبيهات لتعرف أولًا

الحدود تحمي ميزانيتك، لكنك تحتاج إلى معرفة متى عملت. أرسل رسالة عند 50% و80% من السقف اليومي، وفي كل مرة تُقطع فيها تشغيلة بسبب حد الخطوات أو مفتاح الإيقاف. ثم اقرأها. التنبيه الذي تعلّمت تجاهله لا قيمة له، فإن كان أحدها يعمل باستمرار فعالج السبب أو عدّل الحد.

وإذا كنت تسجّل كل خطوة بمعرّف تتبّع، فسترى بالضبط أي تشغيلة حرقت المال. أصف هذا الإعداد في how to debug an AI agent in production.

برومبت لإضافة الحدود الثلاثة

لا حاجة لأن تكتب هذا بنفسك. افتح Claude في المجلد الذي يحتوي كود وكيلك والصق ما يلي:

Read my agent's code. Add three safety limits and show me every file you change:
1. A per-run and per-day spending cap, computed from token usage. Read the limits
   from configuration, and stop the run with a clear logged reason when either is hit.
2. A maximum step count per run, plus a stop if the same tool is called with the same
   input three times in a row.
3. A kill switch: a flag checked before every step that stops the agent safely.
   If the flag can't be read, the agent must stop.
Then list what you assumed about where the flag should live, and give me a short
checklist to test each limit on a non-production copy.

قبل أن تثق بالنتيجة، تحقق من ثلاثة أمور: أن حساب الدولار يستخدم الأسعار الحالية لنموذجك (قد يخمّنها النموذج)، وأن العلامة تُقرأ في كل خطوة، وأنك شغّلت كل حد مرة واحدة ورأيته يعمل. النماذج تكتب بكل سرور سقفًا لا يعمل أبدًا.

ابدأ بأشد الأرقام التي تستطيع التعايش معها

ضع الحدود صارمة في اليوم الأول ثم خفّفها بناءً على الأدلة. سقف يمنع تشغيلة مشروعة يكلفك بضع دقائق. أما غياب السقف فقد يكلفك ميزانية شهر في ليلة. ضع الحدود قبل أن يلمس الوكيل أي شيء حقيقي، وسيصبح بقية البناء أهدأ بكثير.