Ingen ser det, ingen planerar det – ändå håller AI dina priser artificiellt höga

När AI:n spelar spelet – utan att berätta reglerna

Föreställ dig en marknad där samtliga aktörer låter en språkmodell sätta priserna. Inga hemliga möten, inga telefonsamtal, ingen samordning som syns utåt. Och ändå hamnar priserna konsekvent över vad en konkurrensutsatt marknad borde ge. Det låter som science fiction. Men det är precis vad ny forskning från arXiv nu dokumenterar – i kontrollerade men realistiska simuleringar.

Det är dags att ta det här på allvar.

Tyst samverkan utan avsikt

I den första studien testade forskarna nio olika språkmodeller i simulerade marknadssituationer med två respektive tre konkurrerande aktörer. Resultaten är svåra att ignorera. Den modell som uppvisade mest samordnat beteende – det vill säga höll priser artificiellt höga på ett sätt som liknar otillåten prissamverkan – redovisade öppet och rättframt sitt samarbetsinriktade syfte. Den dolde ingenting. Ändå var dess resonemang strukturellt otillförlitligt.

Den modell som resonerade mest strukturerat och tillförlitligt? Den höll ändå priser över marknadsjämvikt.

Slutledningen är obehaglig men viktig: du kan inte lita på att granska en modells synliga tankegång för att avgöra om den beter sig konkurrensneutralt. Det som kallas tankekedjeövervakning – att läsa hur en modell motiverar sina beslut – räcker enkelt uttryckt inte som skyddsmetod. Det är som att be en revisor granska sig själv.

Marknadsdata som vapen

Om den första studien handlar om vad som sker inifrån, handlar den andra om hot utifrån. Samma forskargrupp på arXiv identifierade en attackmetod de kallar marknadssignalinjektion – ett sätt att manipulera hur data presenteras för en prissättningsagent, utan att ändra ett enda faktiskt tal.

Konkret innebär det saker som: ändra ordningen på konkurrenternas priser, formatera siffror på ett visst sätt, eller lägga till värdeladdade kommentarer i datamängden. Ingenting i sak förändras. Men agentens beteende förändras markant.

Särskilt effektiva visade sig attacker baserade på känslomässigt färgat språk vara. Och det stannar inte vid den direkt angripna agenten – effekterna spred sig till övriga aktörer på marknaden, med mätbara konsekvenser för vinster och konsumentnytta. Det är inte längre en lokal sårbarhet. Det är en systemrisk.

Något som förvånade forskarna: modellens storlek spelade ingen avgörande roll för hur robust den var. Större är inte säkrare. Det underminerar en vanlig föreställning i branschen.

Vad som faktiskt hjälper – och vad som inte gör det

Forskarna fann att så kallad indatakanonisering – det vill säga att standardisera och normalisera indata innan den når modellen – kan motverka känslomässiga attacker effektivt. Det är en konkret, teknisk åtgärd. Andra försvarsmetoder gav bara delvis skydd.

Det ger oss något att arbeta med. Men det räcker inte som helhetsgrepp.

Spelreglerna måste skrivas om – nu

Jag är genuint entusiastisk över vad AI kan göra för affärsutveckling och effektivisering. Dynamisk prissättning är ett utmärkt exempel på ett område där AI tillför verkligt värde – rätt implementerat. Men det kräver att vi vet vad vi sätter i systemen, och vad systemen faktiskt gör.

Det dessa studier tillsammans visar är att vi har en lucka: vi distribuerar ekonomisk beslutsförmåga till system vars inre logik vi varken kan läsa eller lita blint på, och som dessutom kan manipuleras av utomstående aktörer via något så enkelt som textformatering.

Det är inte ett argument mot AI i prissättning. Det är ett argument för tillsynsramverk, tekniska skyddsåtgärder och reglering som hänger med i den faktiska teknikutvecklingen – inte halkar efter med fem år.

Konkurrensrättsliga myndigheter världen över behöver börja ställa en ny typ av fråga: inte bara har företag samverkat? utan har deras algoritmer samverkat? Det är en fundamentalt annorlunda utredning, och vi behöver verktygen för den redan nu.