Han skrev bok om AI-lögner – och fyllde den med fabricerade citat. Nu vägrar han sluta använda verktygen.

När sanningens väktare skapar egna lögner

Det finns få ironier så tydliga som denna: Steven Rosenbaum gav nyligen ut boken The Future of Truth: How AI Reshapes Reality – ett verk om hur artificiell intelligens omformar vår bild av verkligheten. Och ändå avslöjar en granskning av New York Times att boken själv innehåller fabricerade citat, direkt framkallade av Rosenbaums egna AI-verktyg under forskningsarbetet.

Bland de påhittade citaten finns ett som teknikjournalisten Kara Swisher säger att hon aldrig yttrat, och ett annat som professorn Lisa Feldman Barrett vid Northeastern University beskriver som helt fristående från hennes faktiska åsikter. Rosenbaum samarbetar nu med förlaget inför en fullständig källgranskning, rapporterar Ars Technica.

Men det verkligt anmärkningsvärda är inte misstaget – det är reaktionen. Rosenbaum är nämligen inte det minsta villig att lägga undan sina AI-verktyg.

– Tanken på att gå tillbaka till Microsoft Word är helt enkelt inte i min natur. Det är magiskt. Det knyter samman idéer och öppnar tankegångar man aldrig skulle hitta på egen hand, säger han till Ars Technica.

Där, i en enda mening, sammanfattas hela spänningsfältet vi befinner oss i just nu.

Prestigepriset som ingen kan förklara

Samtidigt rapporterar The Verge om ett fall som skakat litteraturvärlden på ett mer grundläggande sätt. Novellen The Serpent in the Grove, signerad Jamir Nazir, har vunnit ett regionalt pris inom Commonwealth Short Story Prize och publicerats i den brittiska litteraturtidskriften Granta – en av de mest respekterade litterära plattformarna i världen.

Problemet? Flera erfarna läsare och AI-forskare misstänker starkt att texten är maskinellt genererad. Nabeel S. Qureshi, tidigare gästforskare inom AI vid George Mason University, var en av de första att lyfta frågan offentligt.

– AI-genererad text har en särskild rytm som jag lärt mig känna igen, men som är svår att beskriva, säger Qureshi till The Verge. – Den här texten läser jag som den del av spektrumet där AI inte hjälpte till – AI skrev detta.

Commonwealth Foundation bekräftar att de känner till anklagelserna, men har ännu inte presenterat något svar på hur sådana fall ska hanteras framöver. Det är just den tomheten som är problemet. Litteraturvärlden har länge levt på hederskodexar och en implicit förståelse av vad skapande innebär. Den förståelsen håller på att lösas upp.

Remixen som beställning, inte konst

På musiksidan tar utvecklingen en annan form. Spotify och Universal Music Group har tecknat ett licensavtal som ska göra det möjligt för användare att skapa AI-genererade remixar av låtar ur UMG:s katalog, enligt The Verge. Tjänsten riktar sig mot så kallade superfans och beskrivs av UMG:s vd Sir Lucian Grainge som ett sätt att "fördjupa fanrelationer".

Men kritikerna är inte övertygade. Det finns en fundamental skillnad mellan att lära sig tolka en låt – att sitta med gitarren och dissekera en ackordföljd, att förstå varför ett arrangemang fungerar – och att skriva en textuppmaning och låta en maskin producera en bluegrassversion av Beyoncé. Det förra ger insikt. Det senare ger ett resultat.

Och resultaten från liknande tjänster vittnar om precis detta: tekniskt korrekta, känslomässigt tomma produkter som tar inga oväntade vägar och sliper bort allt som gör musik mänsklig.

Tre fall, ett mönster

Dessa tre händelser – journalistboken med fabricerade citat, prisnovellen med maskinell rytm, musikremixen som beställning – är ytligt sett olika. Men de delar ett och samma grundproblem: vi har låtit AI-verktygen springa ifrån de institutioner som ska granska dem.

Förlag, litteraturtävlingar och musikplattformar har inga robusta processer för att ens ställa frågan om ursprung – än mindre besvara den. Och de verktyg som finns för att upptäcka AI-genererat innehåll är ännu för opålitliga för att fungera som grund för prejudikat.

Jag är genuint entusiastisk kring vad AI gör möjligt. Men entusiasm utan ansvar är lättsinnighet. Det Rosenbaum, Granta och Spotify alla demonstrerar just nu är att transformationen springer fortare än eftertanken – och det är ett problem vi måste ta på allvar, inte för att bromsa utvecklingen, utan för att säkerställa att den leder någonstans värt att gå.