Vem kontrollerar att AI-märkningen används? Ingen.

Tilliten är inte given — den måste förtjänas

Jag är genuint entusiastisk över vad AI gör för kreativitet, produktivitet och affärsutveckling. Men den senaste veckans nyheter skickar en signal vi inte kan ignorera: om branschen inte tar ansvar för transparens själv, kommer regleringen att göra det åt oss.

Låt mig ta det från början.

Apple sätter normen — men vem verkställer den?

Apple meddelade nyligen att all musik där en väsentlig del skapats med generativ AI framöver måste märkas med etiketten Made With AI i Apple Music. Det är ett modigt och välkommet drag. Enligt Breakit kommer beslutet i ett läge där AI-genererad musik blivit allt vanligare och debatten om hur lyssnare ska kunna skilja på mänsklig och maskinell skaparkraft intensifierats.

Men — och här är den kritiska detaljen — enligt Computer Sweden läggs ansvaret för att faktiskt använda märkningen på musikproducenterna själva. En talesperson för Apple Music förklarar att producenterna "är bäst lämpade att veta hur deras innehåll skapades". Det låter rimligt i teorin. I praktiken skapar det ett system som vilar på frivillighet och ärlighet i en bransch där varken okunskap eller strategiska incitament saknas.

Detta är inte en liten detalj. Mer än var tredje låt som laddas upp på tjänsten är i dag helt skapad av AI-verktyg. Ändå är det upp till varje producent att avgöra om märkningen ska användas. Det är ungefär som att låta livsmedelsproducenter själva avgöra om de vill deklarera innehållsförteckningen.

Spotify och Tidal har redan infört liknande märkningar, vilket är positivt — branschen rör sig åt rätt håll. Men ett frivilligt system utan konsekvenser är inte ett transparenssystem. Det är en välmenande rekommendation.

Dolda reklamar och AI-illusioner på YouTube

Samtidigt rapporterar The Verge om en uppblossande debatt kring kända YouTube-profiler som Matti Haapoja och Sam "Kold" Kolder. Båda publicerade videor där de entusiastiskt demonstrerade AI-plattformen Higgsfields senaste funktion — videor som, enligt kritiker, ser ut som reklam men inte är märkta som det.

Andra kreatörer spred skärmdumpar av påstådda samarbetserbjudanden från PR-byråer som arbetar för Higgsfield, och reaktionen i kommentarsfälten var snabb och hård. Varken kreatörerna eller Higgsfield svarade på The Verges frågor om huruvida det rörde sig om betalda partnerskap.

Den välkände teknikprofilen Marques Brownlee gick ut på Threads och tog tydligt avstånd från jämförelserna som drogs. Det är symptomatiskt: när trovärdiga röster börjar ta avstånd från varandra offentligt, har tillitskapitalet redan börjat urholkas.

Reklam som ser ut som äkta åsikter är inte ett nytt problem — men med AI:s förmåga att generera övertygande innehåll i massvolym riskerar problemet att eskalera dramatiskt.

Röstmodeller som lär sig fuska på prov

Den kanske mest tekniskt oroande rapporten kommer från Hugging Face. Deras forskning visar att flera av de högst rankade AI-modellerna för taligenkänning är finjusterade för att klara specifika riktmärken — snarare än att faktiskt bli bättre på att förstå mänskligt tal.

Fenomenet kallas benchmaxxing: modeller lär sig mönster som är specifika för de tester de utvärderas mot, vilket driver upp poängen utan att den verkliga förmågan förbättras. I ett av exemplen återgav sex av elva testade modeller ett felaktigt referenstranskript ordagrant — trots att det inspelade talet tydligt sade något annat.

Detta är ett systemfel. Om de mätvärden vi förlitar oss på för att jämföra och välja AI-modeller är manipulerbara, tappar hela utvärderingsekosystemet sin trovärdighet. Det drabbar inte bara konsumenter — det drabbar företag som fattar inköpsbeslut baserade på falska prestationsdata.

Tre fronter, ett mönster

Apples märkningsinitiativ, YouTube-debaklet och röstmodellernas fuskande är tre separata händelser — men de berättar samma historia. AI-branschen befinner sig i en kritisk fas där förtroendet antingen byggs eller bryts. Teknikens kapacitet har sprungit ifrån de normer och strukturer som behövs för att omgivningen ska kunna lita på den.

Det finns en affärsmässig logik i transparens som många aktörer ännu inte har internaliserat: på lång sikt vinner de som konsumenterna litar på. Kortfristiga vinster av dolda partnerskap eller uppblåsta riktmärkesresultat äter upp det varumärkeskapital som är svårast att bygga tillbaka.