AI Cost Save
AICostSave

I costi nascosti degli agenti IA: retry, loop e chiamate di strumenti

Gli agenti moltiplicano il costo tramite retry, catene di strumenti e loop non convergenti. Impara a misurare e limitare le parti incontrollate.

The problem

Un agente che chiama il modello cinque volte per messaggio utente fattura cinque volte i token — prima ancora di aggiungere i retry quando gli strumenti falliscono.

Dove si nasconde il costo dell'agente

Una sola azione utente in un agente può innescare:

  • Più chiamate al modello (pianifica → agisci → osserva → rifinisci)

  • Chiamate di strumenti che restituiscono risultati verbosi

  • Retry quando uno strumento fallisce o va in timeout

  • Loop che non raggiungono mai una condizione di stop

Ogni passo aggiunge token fatturati sopra i precedenti.

La trappola del retry

Uno strumento fallisce il 5% delle volte. Retry fino a 3 volte. All'improvviso il volume di chiamate è più alto del previsto, e così il costo — anche se la media per chiamata resta piatta.

Loop non convergenti

Senza un segnale chiaro di «fatto», l'agente continua a rifinire. Il costo del loop è illimitato finché qualcuno non lo ferma.

Come limitare le parti incontrollate

  • Tetti di retry: limita i tentativi per strumento
  • Tetti di profondità: limita i turni di ragionamento consentiti
  • Regola di convergenza: fermati quando raggiungi l'obiettivo, non quando «sembra» finito
  • Budget per agente: stop rigido alla soglia di spesa

Checklist rapida

  • Conta le chiamate per azione utente, non solo i token
  • Limita retry e profondità dei loop
  • Budget e avvisi per agente

Related reading