Tetto di spesa e pulsante di stop per un agente IA

Un agente senza limiti è una carta di credito in mano a uno stagista velocissimo che non dorme mai. Quasi sempre va bene. L’unica volta in cui uno strumento restituisce un errore che l’agente non capisce, riprova, legge l’errore, riprova ancora e va avanti finché il credito delle API non è finito.

Faccio girare molti agenti e la mia regola è semplice: nessun agente va online finché non ha un tetto di spesa, un limite di passaggi e un interruttore di arresto. Nessuno dei tre è difficile da aggiungere. È saltarli che costa caro.

Perché gli agenti spendono troppo

Uno script normale fa ogni volta la stessa quantità di lavoro. Un agente decide quanto lavoro fare, ed è proprio questo il motivo per cui lo si usa. È anche il rischio. Quattro cause spiegano quasi tutte le bollette fuori controllo:

1. Loop di nuovi tentativi. Uno strumento fallisce, l’agente riprova con un input leggermente diverso, fallisce di nuovo e ripete.
2. Contesto che cresce. Ogni passaggio si aggiunge alla conversazione, quindi ogni chiamata costa più della precedente. Un’esecuzione da 40 passaggi costa molto più di 40 volte una da 1 passaggio.
3. Fan-out. L’agente avvia sotto-attività, e ciascuna ne avvia altre.
4. Un trigger che scatta troppo spesso. Un job pianificato o un webhook in ingresso gira 500 volte invece di 5.

Ho scomposto i numeri del costo per chiamata in AI agent cost math. Qui si parla del tetto, non della media.

Limite 1: un tetto di spesa rigido

Imposta due numeri per ogni agente: una spesa massima per esecuzione e una per giorno.

Sceglili in base a quanto vale il lavoro. Se un agente smista la tua casella di posta e ti fa risparmiare venti minuti al giorno, non deve poter spendere 40 $ in una sola esecuzione. Un buon punto di partenza è cinque volte il costo di un’esecuzione normale. Se un’esecuzione tipica costa 20 centesimi, limita ogni esecuzione a 1 $ e la giornata a 10 $. Potrai alzare il tetto la prima volta che bloccherà un lavoro legittimo, ed è un bel problema da avere.

Due punti in cui applicarlo:

• Presso il provider. Imposta un limite di spesa mensile nella console di Anthropic o OpenAI. È la tua rete di sicurezza e richiede due minuti. Blocca il caso peggiore anche se il tuo codice è sbagliato.
• Nel tuo codice. Tieni un totale corrente dei token usati durante un’esecuzione, convertilo in dollari e fermati quando supera il tetto per esecuzione. Salva il totale giornaliero in un posto duraturo, così un riavvio non lo azzera.

Limite 2: un numero massimo di passaggi

Un tetto sui passaggi è la protezione più semplice e intercetta i loop che il tetto in dollari rileva troppo tardi. Decidi il massimo di passaggi che un’esecuzione sana dovrebbe fare, aggiungi un margine e fermati lì.

Se la tua esecuzione normale più lunga usa 12 chiamate a strumenti, imposta il limite a 25. Quando l’agente lo raggiunge, non lasciarlo proseguire in silenzio. Chiudi l’esecuzione, registra il motivo e mandati un messaggio. Un’esecuzione che tocca il limite di passaggi è una segnalazione di bug, e vuoi leggerla.

Lo stesso vale per le chiamate identiche ripetute: se l’agente fa tre volte di fila la stessa chiamata con lo stesso input, fermalo. È un loop, non un progresso.

Limite 3: un interruttore di arresto che non richiede deploy

Quando qualcosa va storto alle 2 di notte, non vuoi modificare il codice, ricompilare e rifare il deploy. Vuoi premere un interruttore.

Un interruttore di arresto è un singolo flag che l’agente controlla all’inizio di ogni passaggio, non solo all’inizio di un’esecuzione. Se il flag dice stop, l’agente si ferma. Dove si trovi conta meno del fatto che puoi cambiarlo dal telefono: una chiave in un key-value store, una riga in un database o una variabile d’ambiente che la tua piattaforma ti lascia modificare senza nuovo deploy.

Cura questi dettagli:

• Controllalo spesso. Un flag letto solo all’avvio non può fermare un’esecuzione già in corso.
• Rendi sicuro l’arresto. L’agente deve completare o annullare l’azione a metà, non lasciare un’email inviata a metà o un appuntamento prenotato a metà.
• Fallisci in modalità chiusa. Se l’agente non riesce a leggere il flag, si ferma. Un archivio di flag guasto non deve significare spesa illimitata.
• Provalo una volta. Premi l’interruttore su una copia di staging e guarda l’agente fermarsi. Un interruttore mai provato è solo una speranza.

Ho trattato un controllo affine, il passaggio di approvazione, in human-in-the-loop agents. Le approvazioni fermano le azioni sbagliate. I tetti fermano la spesa sbagliata. Servono entrambi.

Aggiungi avvisi per saperlo prima di tutti

I limiti proteggono il budget, ma devi comunque sapere quando scattano. Manda un messaggio al 50% e all’80% del tetto giornaliero, e ogni volta che un’esecuzione viene interrotta dal limite di passaggi o dall’interruttore. Poi leggili. Un avviso che hai imparato a ignorare non vale nulla, quindi se uno scatta di continuo, correggi la causa o regola il limite.

Se registri anche ogni passaggio con un ID di traccia, vedi esattamente quale esecuzione ha bruciato i soldi. Descrivo questa configurazione in how to debug an AI agent in production.

Prompt per aggiungere tutti e tre i limiti

Non devi scriverlo tu. Apri Claude nella cartella che contiene il codice del tuo agente e incolla questo:

Read my agent's code. Add three safety limits and show me every file you change:
1. A per-run and per-day spending cap, computed from token usage. Read the limits
   from configuration, and stop the run with a clear logged reason when either is hit.
2. A maximum step count per run, plus a stop if the same tool is called with the same
   input three times in a row.
3. A kill switch: a flag checked before every step that stops the agent safely.
   If the flag can't be read, the agent must stop.
Then list what you assumed about where the flag should live, and give me a short
checklist to test each limit on a non-production copy.

Prima di fidarti del risultato, controlla tre cose: che il calcolo in dollari usi i prezzi attuali del tuo modello (il modello potrebbe inventarli), che il flag venga letto a ogni passaggio e che tu abbia fatto scattare ogni limite almeno una volta. I modelli scrivono volentieri un tetto che non scatta mai.

Parti con i numeri più severi con cui riesci a convivere

Imposta i limiti stretti dal primo giorno e allentali in base ai dati. Un tetto che blocca un’esecuzione legittima ti costa qualche minuto. L’assenza di un tetto può costarti il budget di un mese in una notte. Metti i limiti prima che l’agente tocchi qualcosa di reale, e il resto del progetto sarà molto più tranquillo.