Vem sätter reglerna när AI tar över det kreativa rummet?

När möjligheterna springer ifrån regelverken

Det finns veckor då det abstrakta plötsligt blir konkret. Den här veckan är en sådan. Tre händelser — till synes separata — berättar tillsammans en och samma historia: AI-verktygens spridning i kreativa branscher har nu nått den punkt där samhället tvingas svara med spelregler, påföljder och svåra etiska ställningstaganden.

Låt oss börja med musikbranschen, där de stora skivbolagen enligt The Verge presenterat ett gemensamt förslag om hur AI-skapad musik ska hanteras på officiella topplistor. Sex krav ställs upp för att en AI-assisterad inspelning alls ska räknas. Det mänskliga skapandet måste vara i huvudsak dominerande. AI-verktygen måste vara korrekt licensierade. Och — kanske viktigast av allt — användningen av AI ska märkas ut tydligt för lyssnaren.

Det är ett modigt drag, och rätt drag. Skivbolagen har länge suttit på händerna medan lätttillgängliga AI-verktyg svämmat över streamingtjänsterna med vad branschen på engelska kallar slop — massproducerat, innehållslöst material som urholkar topplistornas trovärdighet. Att nu kräva transparens och mänsklig substans är inte ett bakåtsträvande försvar av det gamla — det är ett försök att säkra att kvalitet fortfarande belönas.

Satellitbilderna som aldrig togs

Samtidigt rullar Google ut en ny funktion i Google Earth som låter användare generera AI-skapade bilder baserade på verkliga satellit- och flygfoton. Tanken är god: visualisera historiska platser, planera fastighetsprojekt, utforska hur en plats förändrats över tid.

Men den digitale granskaren Henk van Ess vid Digital Digging behövde bara några minuters experimenterande för att visa baksidan. Med enkla textkommandon skapade han övertygande bilder som påstår sig skildra flyktingar vid den mexikanska gränsen och bombkratrar intill ett sjukhus i Gaza — bilder som aldrig tagits, men som ser ut som äkta satellitfotografier, rapporterar The Verge.

Google svarar att samtliga AI-skapade bilder märks med den digitala vattenstämpeln SynthID och uppmanar användare att granska misstänkta bilder via egna verktyg. Men van Ess visade att han lyckades lura ett automatiskt AI-detektionsverktyg med ett manipulerat videoklipp — vilket blottlägger en obehaglig sanning: tekniska skyddsåtgärder är inte tillräckliga när angriparens verktyg och försvararens verktyg utvecklas i samma takt.

Hans råd är handfasta och värda att sprida: jämför bilder mot oberoende satellitplattformar som Sentinel-2 eller Landsat, och kontrollera alltid metadata om när och av vilken satellit bilden påstås ha tagits. Det är källkritik för vår tid — och det borde vara grundläggande digital kompetens för alla som arbetar med nyheter, säkerhetspolitik eller samhällsplanering.

Boy George och den brända bryggan

Så till det tredje dramat — det mest mänskliga och mest komplexa. Boy George kommer inte att spela kung Herodes i den kommande Londonuppsättningen av Jesus Christ Superstar. Avgången kom dagarna efter att artisten släppte den AI-skapade låten We All Dance Again, där han avvisar beskrivningen av kriget i Gaza som ett folkmord och riktar kritik mot musiker som uttryckt stöd för Palestina, rapporterar The Hollywood Reporter.

Hans manager Paul Kemsley beskrev avgången som ett beslut fattat av respekt för alla inblandade i produktionen. Kollegor i branschen har offentligt kritiserat både låten och artisten.

Vad gör detta till en AI-fråga, och inte enbart en politisk fråga? Jo: Boy George bekräftade själv att låten skapades med AI-hjälp. Det betyder att AI-verktyget i det här fallet inte bara var ett produktionsmedel — det blev ett redskap för att snabbt producera och sprida ett politiskt kontroversiellt budskap, med lägre tröskel och högre räckvidd än konventionell musikproduktion tillåtit.

Och det är just här de tre berättelserna möts. AI sänker tröskeln för skapande — det är teknologins stora löfte och dess stora utmaning på samma gång. Lägre tröskel betyder fler röster, mer mångfald, mer kreativitet. Men det betyder också mer desinformation, mer splittring, mer innehåll som produceras utan den tid för reflektion som traditionellt skapande kräver.

Reglerna skrivs nu — vill du vara med?

Det som händer just nu är historiskt viktigt: spelreglerna för AI i kreativa branscher formas i realtid. Skivbolagen skriver förslag. Tekniktjänsterna rullar ut funktioner och lägger till vattenstämplar i efterhand. Artister fattar snabba beslut och får bära konsekvenserna.

Den som vill påverka utfallet — oavsett om det handlar om musikbolag, mediehus, teknikutvecklare eller kulturpolitiker — måste delta i samtalet nu, inte när reglerna redan är satta.