AI-agenternes uventede valg..

Forestil dig 1000 kunstige intelligenser, der hver især skal vælge mellem to meningsløse muligheder.

Ingen af svarene er bedre end det andet, der er ingen leder, ingen belønning for at samarbejde og ingen instruktion om at blive enige. Alligevel ender nogle af de mest avancerede AI-modeller med at træffe samme valg, viser ny forskning. Og det rummer både nye risici og muligheder for fremtidens kunstige intelligens.

Det tysk-italienske forskerhold bag en ny undersøgelse mener, at deres resultater peger på en grundlæggende mekanisme, som kan blive vigtig, efterhånden som hundreder eller tusinder af AI-agenter begynder at arbejde sammen. Agenterne ser nemlig ud til at have en tendens til at følge flertallet, selv når de ikke bliver bedt om det.

Flertallet trak resten med sig

De tre forskere under ledelse af Giordano De Marzo fra University of Konstanz har bl.a. testet modeller fra GPT-, Claude- og Llama-familierne. Hver AI-agent fik først tildelt enten mulighed A eller B. Derefter fik én agent ad gangen vist de andre agenters aktuelle valg og blev bedt om selv at vælge igen. Ingen instruktion fortalte dem, at de skulle følge flertallet eller nå frem til enighed.

Alligevel havde næsten alle modeller en målbar tilbøjelighed til at vælge den mulighed, som allerede var mest populær. Små tilfældige forskelle kunne derfor vokse, indtil hele gruppen endte på samme side. Forskerne kalder tallet for “majority force” (eller “flertalskraften” på dansk). Jo større den er, desto stærkere bliver den enkelte AI-agents tilbøjelighed til at følge gruppens mest populære valg. Den samme matematiske struktur kendes fra fysikken, hvor magnetiske partikler kan begynde at rette sig ind i samme retning.

“Hver model, vi testede på tværs af tre forskellige familier, følger den samme matematiske lov, hvor kun ét tal ændrer sig mellem dem,” forklarer hovedforfatter Giordano De Marzo til videnskabsmediet ScienceAlert. Forskerne kunne på den måde beregne, hvor store grupper forskellige modeller kunne holde samlet. For nogle modeller brød koordineringen sammen allerede ved relativt få agenter, mens GPT-4 Turbo lå omkring eller muligvis over 1000. Claude 3.5 Sonnet nåede frem til enighed med 1000 agenter, som var den største gruppe, forskerne testede.

Det betyder dog ikke, at AI-agenterne forstod hinanden, havde et fælles mål eller udviste egentlig social intelligens, understreger forskerne.

Eksperimentet testede kun en meget enkel form for koordinering, hvor agenterne kunne se hinandens valg. Men mekanismen kan få praktiske konsekvenser. Tusindvis af AI-agenter kunne måske en dag koordinere store software- eller forskningsprojekter uden en central leder. Risikoen er i det tilfælde, at de kan ende med at fastholde dårlige løsninger, fordi flertallet allerede har valgt dem, advarer forskerne.

 Bilnyheder set på autonews.com – Gengivet her på ONN.dk   |   🔎 Artiklen er læst 840 gange