Han slog Taylor Swifts hela katalog med robotar och AI-musik – nu dömd till fängelse
Man döms till fängelse efter att ha blåst artister på miljoner via AI-musik.
Bluffen som pågick i sju år
Michael Smith, 54 år från North Carolina, är nu det första rättsliga prejudikatet i USA för AI-bedrägeri inom musikstreaming. Enligt det amerikanska justitiedepartementet, som Ars Technica rapporterar om, drev Smith ett storskaligt upplägg från 2017 ända fram till att han greps 2024 – sju år under radarn på plattformar som Spotify, Apple Music, Amazon Music och YouTube Music.
Uppbyggnaden var tekniskt sett enkel men effektiv: tusentals fejkade användarprofiler skapade med falska e-postkonton och olagligt framskaffade kontokort, automatiserade robotprogram som spelade upp låtarna, och ett bibliotek med hundratusentals AI-genererade låtar som Smith påstod sig äga rättigheterna till. För att undvika att trigga plattformarnas bedrägeridetektering spred han spelningarna över låtarna i stället för att rikta allt mot en enda titel.
Siffrorna är svindlande. Enbart under april 2023 genererade Smiths låtar 80,9 miljoner spelningar – att jämföra med Taylor Swifts hela katalog som samma månad fick 9,3 miljoner. Han slog alltså världens just då mest streamade artist med råge, enbart med hjälp av automatisering och AI.
Domen blev 18 månaders fängelse. Och skadan stannar inte vid de lurade plattformarna: eftersom royalties fördelas ur en gemensam pott innebär varje spelning Smith stal att en verklig artist fick mindre. Bluffen var i grunden ett angrepp mot hela det ekosystem som musiker försörjer sig genom.
Tekniken som möjliggjorde det hela
Det som gör fallet extra intressant ur ett tekniskt perspektiv är hur lågt trösklarna faktiskt låg. AI-genererad musik är inte längre en nischkunnighet – det är i dag tillgängligt för vem som helst med en dator och ett kreditkort. Automatiserade konton och robotprogram för att driva spelningar är heller inget nytt. Smith kombinerade existerande verktyg på ett sätt som skalade bra och var svårt att skilja från organisk lyssning.
Det är just den kombinationen – lättillgänglig AI för innehållsproduktion, plus automatisering för distribution – som gör den här typen av bedrägeri till ett strukturellt problem snarare än ett isolerat fall.
Googles svar: osynliga vattenstämplar i 180 miljarder filer
Samtidigt presenterar Google ett verktyg som, om det används brett, skulle kunna göra den här typen av bedrägeri svårare att dölja. SynthID Detector är nu öppet för allmänheten, rapporterar The Decoder – vem som helst kan ladda upp en bild, video eller ljudfil i formaten JPG, PNG, MP4 eller MP3 och kontrollera om den bär en SynthID-vattenstämpel.
Tekniken bygger på att osynliga vattenstämplar bäddas in direkt i det AI-genererade innehållet vid skapandetillfället. Stämpeln är omöjlig att se med blotta ögat men kan läsas av detekteringsverktyget. Google uppger att mer än 180 miljarder bilder och videor redan bär en SynthID-stämpel – ett tal som i sig säger en del om hur snabbt AI-genererat innehåll nu produceras och sprids.
Verktyget känner i dagsläget igen material från Googles egna modeller: Gemini, Veo och Lyria. Det är också den viktigaste begränsningen att hålla i huvudet: SynthID Detector är inte en universell AI-detektor. Den kontrollerar enbart om en fil bär just en SynthID-stämpel. Innehåll skapat med andra verktyg – som de AI-låtar Smith använde – skulle inte flaggas.
Rätt verktyg, men inte tillräckligt ensamt
Det vore orättvist att kritisera Google för att inte lösa ett problem de inte utlovar att lösa. SynthID är ett provenansverktyg, inte ett avslöjningsverktyg. Poängen är att märka upp innehåll vid källan, inte att i efterhand röntga allt som laddas upp på internet.
Men fallet Smith visar tydligt att problemen uppstår just i gapet mellan plattformar, innehållsverktyg och distributionssystem. Ingen av de inblandade plattformarna – Spotify, Apple Music och övriga – hade heller egna vattenstämpelsystem som kunde ha fångat upp de AI-genererade låtarna.
Det vi ser är i grunden ett standardiseringsproblem. Så länge det saknas gemensamma tekniska standarder för märkning av AI-genererat innehåll, standarder som sträcker sig tvärs över verktyg och plattformar, kommer luckor att finnas kvar att utnyttja.
Vår analys
De här två nyheterna hänger ihop på ett sätt som är lätt att missa om man läser dem var för sig. Smith-domen visar att AI-bedrägeri i stor skala är möjligt med relativt enkel teknik – och att det kan pågå i år utan att upptäckas. SynthID-lanseringen visar att verktygen för att motverka det finns, men att de är fragmenterade och leverantörsbundna.
Det jag ser som den verkliga utmaningen framåt är inte teknisk utan strukturell: vem äger ansvaret för att märka upp AI-genererat innehåll, och hur skapar vi standarder som håller tvärs över ekosystem? EU:s AI-förordning pekar mot obligatorisk märkning, men genomförandet är komplext.
Jag är ändå optimistisk. Att Smith nu döms är ett tydligt signal om att rättsväsendet börjar hänga med. Och att Google öppnar SynthID för allmänheten – i stället för att hålla det som en intern skyddsmekanism – är ett steg i rätt riktning. Fler behöver följa efter, och helst tillsammans.