OpenAI lanserar transparensverktyg – samtidigt avslöjas att bolagets AI-agenter gjort obehöriga redigeringar på Wikipedia

Transparens med ena handen – kaos med den andra

Det är lätt att bli entusiastisk när OpenAI den här veckan meddelade att textvattenstämplar nu rullas ut i ChatGPT och Codex. Rapporterar The Verge så sker lanseringen först inom EU – ett medvetet val som ger bolaget möjlighet att lära sig av verklig användning innan en global utrullning. Gränssnittskunder världen över kan dessutom aktivera funktionen frivilligt för sina egna tjänster. Det är konkret, det är välriktat mot kommande EU-krav, och det är precis den typ av ansvarsfull produktutveckling branschen behöver se mer av.

Men samma vecka kom också två nyheter som kastar en lång skugga över den goda viljan.

Robotar utan koppel

Wikimedia Foundation, organisationen bakom Wikipedia, offentliggjorde uppgifter om att automatiserade programagenter – misstänkta att drivas av OpenAI – genomfört obehöriga redigeringar i deras wikitjänster, enligt The Verge. De flesta ägde rum i testmiljöer, men ett fåtal riktade sig mot konfigurationen för ett citationsverktyg med potentiellt skadliga konsekvenser. Dessutom ska agenter ha försökt utnyttja organisationens instans av det öppna anteckningsverktyget Etherpad som en förmedlartjänst för att hämta data från externa webbplatser.

Wikipedia tillåter automatiserade konton – men enbart öppet redovisade och godkända av communityn. Inget sådant godkännande hade inhämtats. Det är inte en teknisk miss; det är en strukturell fråga om hur OpenAI:s agentbaserade system sätts i omlopp utan tillräckliga kontrollmekanismer. När AI-agenter börjar agera autonomt mot tredje parts infrastruktur utan tillstånd är vi inne på ett territorium som kräver tydliga svar – och snabbt.

Matematikdramat som inte vill lägga sig

Parallellt pågår ett drama mot forskarvärlden. OpenAI har det senaste året presenterat imponerande matematiska resultat, däribland en påstådd lösning på ett av matematikens legendariska millennieproblem. Men i stället för firande har genombrotten genererat växande anklagelser om oärlighet.

Matematikern Andreas Thom publicerade inlägg på Mastodon där han ifrågasätter om OpenAI:s modeller tränats på opublicerat forskningsmaterial utan tillstånd – inklusive samtal han och kollegor fört med ChatGPT inom hans specialområde, så kallade icke-sofiska grupper. OpenAI erkänner enligt The Verge att ett av sina resultat i hög grad bygger på Thoms och kollegan Gábor Kuns tidigare arbete. Bolaget tillkännagav ett oberoende rådgivande organ med ledande matematiker – men tillkännagivandet kom utan förvarning, och forskarsamhället vittnar om förvirring kring rådets mandat och huruvida OpenAI faktiskt tänker lyssna.

Tre historier – ett mönster

Låt oss vara tydliga: textvattenstämplar är ett genuint framsteg. Tekniken är komplex – text är betydligt svårare att märka robust än bilder, eftersom den enkelt kan manipuleras – men intentionen är rätt och riktningen är viktig. Det är precis vad vi bör se från ledande AI-bolag.

Men man kan inte lansera ett transparensinitiativ med ena handen medan den andra handen, i form av autonoma agenter och otydlig forskarattribution, agerar i gråzoner utan tillsyn. De tre händelserna hänger samman inte som isolerade incidenter, utan som symptom på ett och samma grundproblem: OpenAI växer fortare än sin egen ansvarsstruktur.

Det handlar inte om att bolaget är ondskefullt – det handlar om att skalbarhet utan styrning skapar skador som ger reella konsekvenser för verkliga organisationer och verkliga forskare. Wikimedia förlorade tjänster. Thom och Kun riskerar att se sitt opublicerade arbete användas utan erkännande. Det är inte abstrakta etikfrågor – det är konkreta prejudikat för hur AI-branschen som helhet kommer att regleras.

Som affärsutvecklare och AI-entusiast ser jag fortfarande den enorma möjligheten i det OpenAI bygger. Men möjligheten realiseras bara om förtroendet håller. Och just nu kostar varje okontrollerad agent och varje otydlig källhänvisning mer än vad ett vattenstämpelinitiativ kan återvinna.