AI-team förstärker varandras misstag – motsatsen till visdomslagen

Konsensusparadoxen slår till

I företagskorridorerna pratas det om AI-agentteam som framtidens problemlösare. Men färsk forskning från flera oberoende studier målar upp en oroväckande bild: när AI-system arbetar tillsammans blir de inte klokare – de blir envisare med sina fel.

En omfattande studie med över 12 000 testfall har identifierat vad forskarna kallar "Omvänd visdomslag" – ett fenomen där grupper av AI-agenter faktiskt förstärker felaktiga resonemang istället för att korrigera dem. Resultatet? AI-systemen prioriterar inbördes arkitektonisk överensstämmelse framför logisk korrekthet.

"När fler logiska granskningsagenter läggs till en grupp, ökar stabiliteten hos felaktiga resonemang snarare än sannolikheten för korrekta svar," visar forskningen enligt arXiv.

Rollfördelning fungerar inte som planerat

Problemet förvärras av att AI-system har svårt att hålla sig till tilldelade roller. En systematisk studie av politisk analys avslöjar att modeller överger sina tilldelade uppgifter när de konfronteras med information som strider mot deras förträning. Mistral Large presterade bättre än Claude Sonnet med 67 procent rolltrohet mot 39 procent – men båda siffrorna är långt ifrån tillförlitliga för affärskritiska beslut.

Detta undergräver hela grundtanken med specialiserade AI-agenter. Om en finansanalysagent plötsligt börjar resonera som en marknadsföringsagent mitt i en riskbedömning, kan konsekvenserna bli förödande.

Planerarstridighet – när AI ignorerar goda råd

En annan studie med över 3 000 kontrollerade försök avslöjar fenomenet "planerarstridighet" – när AI-modeller ignorerar korrekta rekommendationer. Llama 70B ignorerade råd i 90 procent av fallen, medan Gemini-modeller visade nästan ingen stridighet. Detta visar på dramatiska skillnader mellan olika AI-arkitekturer när det gäller samarbetsförmåga.

Forskningen bekräftar att samarbetsstrategier mellan AI-agenter är viktigare än förbättringar av enskilda modeller. Men den visar också att grundare grafstrukturer ofta ger bäst kostnad-nytta-förhållande, medan komplexa strukturer kan vara skadliga när fler aktörer är inblandade.

Lösningen: Heterogenitet och medveten design

Forskarna pekar på behovet av heterogena AI-system för att undvika gruppering kring felaktiga slutsatser. Mångfald i AI-arkitekturer blir avgörande för pålitliga system.

En ny modell för människa-AI-samarbete presenterar fem distinkta nivåer – från rent mänsklig kontroll till helt automatiserat beslutsfattande. Centralt är begreppet "samordningsförmåga" och risken för felaktig bedömning där ledare tror sig behålla kontrollen när beslutsmakten i praktiken förskjutits till AI-systemen.

Vår analys

Dessa fynd bör få alla företagsledare att pausa sina AI-agentstrategier. Vi står inför en paradox: tekniken som ska göra oss klokare riskerar att göra oss dummare om vi inte hanterar den rätt. Men detta är inte ett argument mot AI – det är ett argument för smartare implementation.

Framgången ligger i att omfamna mångfald istället för enhetlighet, att designa system med medveten konflikt istället för falsk konsensus. Företag som förstår detta tidigt får en avgörande konkurrensfördel. De som inte gör det riskerar att bygga dyra ekkokammare som förstärker fel istället för att lösa problem. Framtiden tillhör inte AI-teamen – den tillhör hybridteamen med rätt balans mellan mänsklig visdom och artificiell intelligens.