Mille agenti artificiali chiusi in una stanza virtuale, ciascuno di fronte a una scelta tra due opzioni prive di significato. Nessuna ricompensa per chi si allinea, nessun capo che dia ordini, nessun ricordo delle decisioni precedenti. Eppure, i modelli più capaci finiscono per scegliere tutti la stessa cosa, come se un accordo invisibile li avesse raggiunti.
Lo scenario, descritto in uno studio su Science Advances, è opera di Giordano De Marzo, scienziato sociale computazionale dell’Università di Konstanz, e dei suoi colleghi. Hanno messo alla prova dieci modelli delle famiglie Claude, GPT e Llama, sottoponendo ogni agente a un ciclo ripetuto: guardare le scelte degli altri e decidere di nuovo. I prompt non contenevano alcun invito a seguire la maggioranza.
Nonostante questo, la maggior parte dei modelli ha mostrato una tendenza a piegarsi verso l’opzione più popolare. Le differenze iniziali, per quanto minime, si sono amplificate fino a portare l’intero gruppo a una scelta unica. I ricercatori hanno chiamato “forza di maggioranza” il parametro che misura questa attrazione, e hanno scoperto che tutti i modelli obbediscono alla stessa legge matematica. Lo stesso pattern compare nel modello fisico del ferromagnete, dove gli spin atomici si allineano spontaneamente.
La capacità di coordinamento varia drasticamente. Llama 3 70B riesce a mantenere il consenso solo fino a circa trenta agenti, GPT-4o arriva a ottanta, GPT-4 Turbo sfiora il migliaio. Claude 3.5 Sonnet, il più performante, è rimasto coeso anche con mille agenti, il massimo testato: il limite esiste, ma l’esperimento non l’ha raggiunto. Queste cifre superano il numero di Dunbar, quel limite di circa centocinquanta individui entro cui gli esseri umani sostengono relazioni sociali stabili.
De Marzo però mette le cose in prospettiva. Gli agenti non hanno memoria, non perseguono un obiettivo comune, non capiscono cosa sappiano gli altri. Il consenso emerge da un meccanismo meccanico, non da una vera intelligenza sociale. L’ingrediente base per la coordinazione c’è, ma i sistemi non sono ancora in grado di collaborare su compiti complessi. Il rischio è concreto. In uno scenario di sviluppo software, un gruppo di agenti potrebbe adottare ripetutamente una funzione inefficiente solo perché è già presente nel codice. Una norma condivisa dalla maggioranza non è necessariamente la scelta migliore. E una volta che il gruppo si è allineato, invertire la rotta diventa difficile: i ricercatori hanno osservato stati collettivamente misallineati che persistono anche quando le condizioni cambiano, con tipping point e isteresi che rendono la dinamica difficilmente reversibile.
Valutare un agente singolo potrebbe non bastare. Quando i modelli più avanzati iniziano a influenzarsi a vicenda, le capacità più rilevanti — e forse i guai più seri — potrebbero emergere non da un singolo sistema, ma dal collettivo che quel sistema genera.
https://www.sciencealert.com/1000-ai-agents-started-agreeing-without-anyone-telling-them-to
