Kriminella klonar din chefs röst – samtidigt inför OpenAI vattenstämpel i AI-text

Två sidor av samma teknologiska mynt

Det finns ett visst ironiskt mönster i hur AI-teknologins dubbla natur visar sig just nu. Å ena sidan: kriminella som klonar röster och ansikten med förbluffande trovärdighet för att lura anställda att föra över pengar. Å andra sidan: OpenAI som inom några veckor börjar förse sina AI-genererade texter med en osynlig digital vattenstämpel. Samma teknologi, samma tidsperiod — men med diametralt olika syften.

Det är exakt den spänningen vi behöver förstå om vi ska navigera AI-omställningen med öppna ögon.

Bedrägeriet som ser ut som din chef

Enligt Breakit ökar AI-drivna bedrägerier kraftigt mot svenska och internationella företag. Den oroväckande trenden kallas VD-bedrägerier — angrepp där kriminella imiterar en företagsledares röst, eller till och med genomför videomöten med hjälp av deepfake-teknik, för att övertala anställda att genomföra betalningar eller lämna ut känslig information.

— AI-utvecklingen går snabbt och det gör även de kriminellas metoder, säger Caroline Oldmark, ansvarig för cyberförsäkringar på Trygg-Hansa, till Breakit.

Det är en nykter påminnelse. Att känna igen sin chefs röst i telefon eller att se hennes ansikte i ett videomöte räcker helt enkelt inte längre som verifieringsmetod. Tekniken för röst- och ansiktsförfalskning har blivit tillräckligt sofistikerad för att lura erfarna yrkesmänniskor, och angreppsytan växer i takt med att fler affärsrelationer sker digitalt.

Experterna rekommenderar flerstegskontroller och förutbestämda kodnyckelord — enkla men effektiva motåtgärder som många organisationer ännu inte infört. Det är lågt hängande frukt som varje företagsledare bör plocka omedelbart.

OpenAI drar ett streck i sanden

Samtidigt rapporterar Computer Sweden att OpenAI tar ett konkret steg mot ökad öppenhet: inom några veckor förses texter skapade med ChatGPT och Codex med en digital vattenstämpel. Drivkraften är EU:s nya regelverk för AI, som trädde i kraft för två månader sedan och kräver att AI-genererat innehåll tydligt ska kunna identifieras.

Vattenstämpeln aktiveras automatiskt för EU-användare, medan övriga världen får ett frivilligt system — vilket i praktiken innebär att EU-lagstiftningen driver på en global standard, men bara tvingar fram den på den egna marknaden.

Det är ett klassiskt mönster vi känner igen från GDPR: Europa sätter ribban, resten av världen väljer om man vill hoppa. Ibland leder det till en global standard. Ibland inte.

Vad räcker det egentligen till?

Här är den ärliga frågan vi måste ställa oss: löser vattenstämpling av text problemet med deepfake-röster och manipulerade videomöten? Nej — inte direkt. Det är olika hot som kräver olika svar.

Men det är ändå ett tecken på att vi rör oss i rätt riktning. Spårbarhet och märkning av AI-genererat innehåll är en förutsättning för att kunna bygga förtroende i ett informationslandskap som annars riskerar att erodera. Utan verktyg för att skilja äkta från falskt — oavsett om det handlar om text, röst eller video — blir misstro det nya normalläget.

Kritiker påpekar, med rätta, att vattenstämplar kan manipuleras bort eller kringgås. Computer Sweden noterar att det återstår att se hur OpenAI tekniskt har löst den problematiken. Det är en legitim invändning. Men ett ofullständigt verktyg som faktiskt existerar slår alltid ett perfekt verktyg som fortfarande är på ritbordet.

Vad företagsledare bör göra nu

Som affärsutvecklare ser jag en tydlig prioriteringslista för varje organisation:

Kortsiktigt: Inför verifieringsrutiner direkt. Kodnyckelord, flerstegskontroller och tydliga interna protokoll för känsliga transaktioner. Detta kostar ingenting och kan stoppa ett bedrägeri imorgon.

Medellångsiktigt: Investera i utbildning. Den mänskliga faktorn är fortfarande den svagaste länken — och den går att stärka. Anställda som förstår hur deepfake-teknik fungerar är svårare att lura.

Långsiktigt: Följ märkningsutvecklingen noga. EU:s krav på identifiering av AI-genererat innehåll kommer att forma hur vi hanterar digital kommunikation de kommande åren. Företag som bygger in spårbarhet och äkthetskontroll tidigt i sina processer kommer att ha ett konkurrensförsprång.