Miljarderna flödar in i AI – men säkerheten lämnas på perrongen

När farten blir ett riskprojekt

Det är svårt att inte imponeras av energin i AI-sektorn just nu. Ta AfterQuery som exempel: ett bolag grundat av två tjugoåringar, med rötter i Y Combinators vinterkull 2025, som enligt TechCrunch nyligen värderades till 3,2 miljarder dollar – en tiodubbling på under ett halvår. Enligt Y Combinator-partnern Gustaf Alströmer är det det snabbaste någon i acceleratorns historia gått från lansering till enhörningsstatus. Det är inte en nyhet, det är nästan en saga.

Samtidigt rapporterar The Verge att Google är berett att betala hundratals miljoner dollar – potentiellt miljarder – för att licensiera Hollywoods upphovsrättsskyddade innehåll till sina AI-modeller. Enbart rätten att återskapa en enda karaktär från Disney eller Pixar kan inbringa ett studio upp mot 40 miljoner dollar. Siffror av den storleken signalerar inte experiment – de signalerar att kapitalet har bestämt sig.

Men mitt i denna euforiska kapitalflöde sitter analytikern Pete Shoard på Gartner och drar i handbromsen.

– Jag tror inte att de är redo, säger han, och syftar på de företag som nu i rask takt integrerar AI-verktyg i sina verksamheter.

Säkerhetsgapet som ingen pratar om vid pitchmötena

Enligt Computer Sweden är hoten mot företagen både interna och externa. Känslig information kan läcka till stora språkmodeller utan att användarna ens är medvetna om det. AI-verktyg kan av misstag ladda upp konfidentiella filer till öppna kodarkiv. Den största omedelbara risken, förklarar Shoard, är hårdkodade lösenord och kryptografiska nycklar som via felaktigt kodade program skapar öppna ingångar för angripare.

Detta är inte abstrakta hot. Det är vardagliga misstag som sker när organisationer pressar in ny teknik i gamla arbetsflöden utan att uppdatera sina säkerhetsrutiner i takt med det.

Särskilt utsatta är små och medelstora företag. De saknar ofta interna säkerhetsresurser och har svårt att finansiera de avtalsbaserade tjänster som stora säkerhetsbolag erbjuder. Resultatet är ett farligt gap: de som har minst marginaler att hantera en incident är också de som är sämst rustade att förebygga den.

Analytikern Jack Gold på J. Gold Associates pekar på ett beteendemönster som är lika mänskligt som det är problematiskt – företag fokuserar mer på att sätta upp barriärer än på att förstå vad de faktiskt behöver skydda sig mot.

När vi inte ens vet vad vi mäter

Till detta lägger ett nytt verktyg från Allen Institute for AI, kallat BenchMIRT, ytterligare ett lager av komplexitet. Verktyget avslöjar att de riktmärken som används för att bedöma AI-systems säkerhet och pålitlighet ofta mäter helt andra saker än vad de utger sig för att göra. Riktmärket BBQ, utformat för att fånga upp om AI-system förlitar sig på sociala fördomar, visade sig i praktiken mäta allmänt logiskt resonemang. WildJailbreak, som testar motståndskraft mot skadliga uppmaningar, innehåller en blandning av signaler som gör tolkningen osäker.

Det innebär att vi just nu befinner oss i en situation där enorma kapitalflöden driver på en teknik vars säkerhet vi inte fullt ut kan verifiera – med verktyg som inte mäter det vi tror att de mäter.

Möjligheten är verklig – men den kräver allvar

Jag vill vara tydlig: jag ser inte detta som ett argument mot AI-omställningen. Tvärtom. AfterQuerys framgång visar att det finns ett genuint och växande behov av kvalitativ träningsdata. Googles Hollywoodsatsning, hur komplex den än är upphovsrättsligt, signalerar att generativ AI söker kulturell legitimitet – vilket är hälsosamt för branschen på lång sikt.

Men möjligheter och risker är inte varandras motpoler – de är varandras följeslagare. Varje organisation som i dag skyndar in i AI-implementering utan att parallellt bygga upp sin säkerhetskapacitet tar en risk som inte syns i pitchdockan men mycket väl kan synas i nästa kvartalsrapport.

Skiftet från ett reaktivt till ett förebyggande säkerhetstänkande – där organisationer aktivt simulerar hotscenarier och åtgärdar sårbarheter innan de utnyttjas – är inte en kostnad. Det är en förutsättning för att AI-satsningen överhuvudtaget ska leverera det värde den lovar.