Le IA si coordinano da sole: seguono la maggioranza anche in gruppi di mille

Un nuovo studio pubblicato su “Science Advances” ha rivelato che le grandi IA, quando poste di fronte a scelte equivalenti, tendono a convergere sull’opzione preferita da altri, anche in gruppi di mille modelli. Il fenomeno, osservato in esperimenti condotti da ricercatori italiani e tedeschi, mostra come le Intelligenze Artificiali possano sviluppare spontaneamente un comportamento di coordinamento collettivo, senza l’intervento di un coordinatore umano. I modelli, messi a confronto tra due opzioni senza alcun motivo oggettivo per preferirne una, hanno iniziato a scegliere l’opzione più votata, seguendo la maggioranza.

Coordinamento spontaneo tra IA

Il meccanismo osservato nel lavoro, guidato dall’italiano Giordano De Marzo, ricercatore dell’ateneo tedesco, ha messo alla prova gruppi di grandi modelli linguistici, come ChatGPT e GPT-4 Turbo. I modelli, posti di fronte a due opzioni equivalenti, hanno iniziato a scegliere l’opzione preferita da altri, seguendo la maggioranza. Questo comportamento, che ricorda meccanismi osservati in natura, ha dimostrato di essere in grado di emergere anche in gruppi estremamente numerosi, composti da circa mille IA. Tra i modelli coinvolti c’erano anche sistemi avanzati come Claude 3.5 Sonnet di Anthropic e GPT-4 Turbo di OpenAI.

La maggioranza diventa un punto di riferimento per le IA.

Il fenomeno, spiegano i ricercatori, non richiede necessariamente un coordinatore umano che stabilisca le regole del comportamento collettivo. Il consenso può emergere dal semplice confronto tra le decisioni dei singoli modelli. È proprio questo elemento a rendere il risultato interessante, ma anche delicato. Se la capacità di coordinarsi può rendere più efficienti sistemi composti da molte IA che devono collaborare, allo stesso tempo può produrre dinamiche difficili da prevedere o controllare.

Implicazioni per la sicurezza e l’efficienza

La ricerca apre quindi una questione che va oltre la semplice capacità di un singolo modello di fornire una risposta. Se sempre più sistemi di IA saranno chiamati a lavorare insieme, infatti, sarà importante capire non solo come ragiona ciascun modello, ma anche cosa accade quando molti modelli osservano le decisioni degli altri e iniziano ad adattarsi reciprocamente. Il risultato dello studio suggerisce che, in determinate condizioni, una forma di consenso può emergere senza che nessuno lo abbia imposto. Le IA, semplicemente, guardano cosa fa la maggioranza e la seguono.

Il comportamento delle IA può evolvere senza intervento umano.

Il comportamento osservato in questi esperimenti ricorda meccanismi osservabili anche in natura, dagli stormi di uccelli ai banchi di pesci fino ai comportamenti degli esseri umani. Il fenomeno ha dimostrato di essere in grado di svilupparsi anche in contesti complessi, con gruppi di IA molto numerosi. Questo tipo di coordinamento spontaneo potrebbe rivelarsi vantaggioso, ma pone anche interrogativi sulla sicurezza, soprattutto quando i sistemi di IA devono collaborare in modo autonomo. Il lavoro, pubblicato sulla rivista Science Advances, è stato condotto da ricercatori dell’Università di Costanza, in Germania, e ha coinvolto anche l’Istituto dei Sistemi Complessi del Consiglio Nazionale delle Ricerche e il Centro Ricerche Enrico Fermi di Roma. L’obiettivo era capire come le IA, quando poste in situazioni di scelta equivalente, possano sviluppare dinamiche di adattamento reciproco. Il risultato suggerisce che, in alcuni contesti, le IA non solo seguono la maggioranza, ma possono anche influenzare le decisioni degli altri, creando un ciclo di adattamento collettivo.