← Tutte le lezioni
Agenti

Più agenti insieme: schemi di orchestrazione

Quando un agente solo non basta, e i quattro modi di metterne insieme diversi. Con i costi veri: coordinamento, contesto che si riempie, e la tentazione di usarne cinque dove ne bastava uno.

Un agente solo funziona bene finché il compito sta in una testa sola. Quando il lavoro richiede competenze diverse — scrivere e poi criticare, esplorare e poi decidere — un modello che fa tutto tende a essere mediocre in ognuna delle parti, e soprattutto a non contraddirsi: chi ha appena scritto una soluzione è il peggior candidato a trovarci il difetto.

I segnali che serve più di un agente sono quattro, e vale la pena riconoscerli prima di costruire:

  1. il compito non entra in un contesto solo, per numero di file o di responsabilità;
  2. servono prospettive diverse, non più forza sulla stessa;
  3. il lavoro si spezza in parti davvero indipendenti;
  4. le parti richiedono competenze diverse fra loro.

Se nessuno dei quattro è vero, più agenti aggiungono solo latenza e conti da pagare.

I quattro schemi

In sequenza. Ogni agente prende l’uscita del precedente. È una catena di montaggio: semplice, prevedibile, e lenta quanto la somma dei passi. Il difetto è che un errore al primo passo si trascina fino in fondo, guadagnando credibilità a ogni passaggio.

In parallelo. Lo stesso compito viene diviso in parti indipendenti, ognuna a un agente, e poi i risultati si ricompongono. È lo schema con il miglior rapporto fra guadagno e complessità, ma vale solo se le parti sono davvero indipendenti: se la parte B ha bisogno di sapere com’è andata la A, il parallelo è una bugia che si paga in incoerenze.

Gerarchico. Un agente coordina e distribuisce, gli altri eseguono. Regge bene i progetti con ruoli distinti, e introduce il problema classico di ogni gerarchia: il coordinatore deve tenere in testa abbastanza contesto per decidere, e quel contesto cresce.

Competitivo. Più agenti risolvono lo stesso compito in modo indipendente, e un giudice sceglie. Costa tre o cinque volte tanto e in cambio alza sensibilmente la probabilità di una soluzione buona. Ha senso quando l’errore costa più del calcolo.

SchemaComplessitàVelocitàCostoQuando
SequenzaBassaLentaMedioFlussi lineari con passaggi netti
ParalleloMediaAltaMedioParti indipendenti
GerarchicoAltaMediaAltoProgetti con ruoli diversi
CompetitivoMediaMediaAltoQuando sbagliare costa più del calcolo

Come si passano le informazioni

Tre modi, in ordine di quanto durano.

Messaggi diretti: un agente scrive all’altro. Semplice, ma tutto vive nella conversazione, e la conversazione cresce.

Stato condiviso: gli agenti leggono e scrivono su una struttura comune. Più ordinato, e introduce il problema di due che scrivono la stessa cosa insieme.

Cassetta postale su disco: i messaggi diventano file. Sembra rozzo ed è invece l’opzione che regge meglio i guasti: se un agente muore a metà, quello che ha prodotto è ancora lì, e il lavoro riparte da dove si era fermato invece che da capo.

Dove si rompe davvero

Il contesto si riempie. È il vincolo che si presenta per primo, sempre. Una conversazione a tre agenti per venti passi produce una cronologia che nessuna finestra di contesto regge intatta. I rimedi che funzionano: riassunti intermedi, cassette postali che contengono l’essenziale invece della cronologia, agenti che ripartono ogni volta rileggendo solo lo stato corrente.

I costi si moltiplicano, non si sommano. Tre agenti per cinque passi ciascuno sono quindici chiamate al modello, e ogni chiamata si porta dietro il proprio contesto. Con modelli a pagamento il conto sorprende; con modelli locali sorprende il tempo.

Nessuno converge. Due agenti che si correggono a vicenda possono discutere all’infinito, ognuno educatamente convinto. Serve qualcuno che chiuda: un tetto di iterazioni, o un coordinatore che a un certo punto decide e basta.

Gli errori si propagano al contrario. Se un agente fallisce e un altro dipende da lui, il secondo di solito non si ferma: lavora su un risultato mancante o inventato. È il caso in cui il ripiego migliore è tornare a un agente solo, non insistere.

Si pestano i piedi. Due agenti che scrivono lo stesso file nello stesso momento producono un guasto che nessuno dei due può diagnosticare, perché ognuno vede solo la propria metà.

La domanda da farsi prima

La tentazione, quando si scopre questo mondo, è mettere cinque agenti dove ne bastava uno con gli strumenti giusti. Prima di orchestrare conviene chiedersi: il collo di bottiglia è la capacità o l’organizzazione?

Se un agente solo sbaglia perché non ha accesso a un dato, la risposta è uno strumento in più, non un agente in più. Se sbaglia perché non è capace, cinque copie della stessa incapacità non migliorano la media: peggiorano il costo. Il multi-agente rende quando la divisione del lavoro porta prospettive diverse, non più braccia.

In sintesi

ConcettoIn una riga
Quando serveContesto insufficiente, prospettive diverse, parti indipendenti
SequenzaSemplice, ma l’errore iniziale arriva fino in fondo
ParalleloIl miglior rapporto guadagno/complessità, se le parti sono indipendenti
GerarchicoRuoli distinti, e un coordinatore che accumula contesto
CompetitivoCosta 3-5 volte, si usa quando sbagliare costa di più
Il vincolo veroLa finestra di contesto, prima ancora del costo
Il guasto tipicoNessuna convergenza: serve un tetto o un arbitro
La domanda primaManca capacità o manca organizzazione?

Lezioni collegate

  • Cosa sono gli agenti: dal consiglio all'azione

    Un chatbot ti dice come si fa, un agente lo fa. Il ciclo osserva-pensa-agisci, i quattro pezzi che lo compongono, e i limiti da mettere prima di dargli le chiavi.

  • Function calling: come un modello usa gli strumenti

    Il modello non esegue niente: descrive cosa vuole fare, in modo strutturato. Capire questo passaggio spiega perché gli agenti funzionano, e perché sbagliano nei punti in cui sbagliano.

  • Context window e memoria

    La finestra di contesto è il foglio di lavoro del modello: quello che non ci sta, per lui non esiste. E no, il modello non ricorda le conversazioni precedenti.