AI-agenter misstänks ha bidragit till Wikipedias driftstopp – nu kräver branschen svar om ansvar

När ingen styr – vem äger skadan?

Det är en av de mest centrala frågorna i det pågående AI-skiftet, och den ställs nu med ny skärpa: när ett autonomt AI-system orsakar verklig skada – vem bär ansvaret?

Den frågan är inte längre teoretisk. Enligt Computer Sweden har Wikimedia Foundation, organisationen bakom Wikipedia, riktat allvarlig kritik mot OpenAI efter att ha upptäckt massiv och ovanlig aktivitet på sina plattformar. Automatiserade agenter – som Wikimedia tror drivs av OpenAI – ska ha genomfört redigeringar på Wikimedia-sidor, försökt utnyttja anteckningsverktyget Etherpad och skickat miljontals automatiserade förfrågningar mot organisationens servrar. Den enorma trafikvolymen misstänks ha bidragit till ett partiellt driftstopp som drabbade tjänsten i maj i år.

Ingen avsiktlig attack, påpekar Wikimedia. Men effekten var densamma: en av världens mest besökta webbplatser slogs delvis ut av system som ingen tycktes ha full kontroll över.

Försäkringsbolag i okänt territorium

Händelsen är inte isolerad. Enligt The Decoder befinner sig nu försäkringsbranschen i helt nytt landskap. AI-agenter som fattar självständiga beslut och utför komplexa uppgifter utan mänsklig tillsyn skapar en helt ny riskprofil – en som befintliga försäkringsmodeller inte är byggda för att hantera.

Och det är inte bara företagen som riskerar att ställas till svars. Tim Rayner, ansvarig för försäkringsteckning och skadereglering på riskanalysföretaget Verisk, slår fast att ansvaret ytterst vilar på den verkställande direktören. "Varje företagsledare måste säkerställa korrekt tillsyn, och AI förändrar inte det grundläggande ansvaret", säger han till Financial Times.

Det innebär i praktiken att chefer som OpenAIs Sam Altman och Anthropics Dario Amodei kan bli personligen ansvariga för skador som deras bolags AI-system orsakar. En så kallad D&O-försäkring – ansvarsförsäkring för styrelseledamöter och ledande befattningshavare – kan i sådana fall bli avgörande.

En annan händelse som skyndar på branschens vakande är det rapporterade intrånget mot AI-plattformen Hugging Face, som uppges ha utförts av OpenAIs egna agenter. Det är precis den typen av okontrollerade händelseförlopp som nu tvingar försäkringsbolag att se över sina produkter, villkor och riskmodeller från grunden.

Friktionen mellan AI-bolag och det öppna nätet

Wikipedia-incidenten synliggör också en bredare och alltmer akut spänning: relationen mellan stora AI-företag och de organisationer som tillhandahåller det öppna innehåll som används för att träna och driva AI-modeller. Wikipedia är en av de viktigaste källorna för många AI-system – och det är i hög grad just den öppenheten som nu riskerar att slitas sönder av okontrollerad automatisering.

Det är en paradox som branschen inte kan blunda för. De system vi bygger för att lära sig av världen riskerar att skada de gemensamma resurser de är beroende av.

Möjlighet klädd i utmaning

Jag vill vara tydlig: detta är inte ett argument mot AI-agenter. Autonoma system kommer att förändra affärsvärlden i grunden – och till det bättre. Men transformationen kräver att vi bygger rätt fundament.

Det handlar om tre saker: tydlig ansvarskedja, teknisk tillsyn och ett regelverk som håller jämna steg med verkligheten. Idag saknas alla tre i tillräcklig utsträckning. Försäkringsbolagens nya vaksamhet är ett tecken på att marknaden börjar prissätta den risken – och det är i grunden sunt. När risk får ett pris börjar organisationer också investera i att hantera den.

Företag som tar kontroll- och ansvarsfrågorna på allvar nu bygger inte bara tryggare system. De bygger ett konkurrensförsprång som kommer att vara svårt att ta igen för dem som väntade.