Dödliga drönare, falska vittnen och maskinstyrda bedrägerier: AI används nu som vapen mot oss

När verktygen är neutrala men användarna inte är det

Jag är genuint entusiastisk över vad AI gör för mänsklighetens möjligheter. Men den entusiasmen förpliktigar också till ärlighet: samma kraft som transformerar industrier och frigör mänsklig potential kan — när den hamnar i fel händer — orsaka skada i en skala vi tidigare inte sett. Den här veckan fick vi tre skakande påminnelser om det.

Morddrönare byggda med Claude

Anthropic, företaget bakom AI-assistenten Claude, publicerade nyligen en rapport som avslöjar hur en ryskknuten grupp — identifierad som GTG-27005 — använde deras system för att utveckla en AI-modell liten nog att köras på enkortsdatorer, men kraftfull nog att låta en drönare självständigt välja mål, inklusive en målklass märkt "person", och utfärda detonationskommandon helt utan mänsklig inblandning. Enligt Defense One genomförde gruppen verkliga tester med fysisk hårdvara och arbetade dessutom på att låta drönare kommunicera med varandra för ökad precision.

Parallellt använde rysktkopplade aktörer samma AI-verktyg för att kartlägga mål, hitta sårbarheter i digitala konton, skapa skadlig kod och bygga hela nätverk av falska nyhetssajter med fejkade journalistprofiler — skräddarsydda för att framstå som trovärdiga lokala medier. Anthropic stängde av gruppen och skärpte sina säkerhetsåtgärder, men frågan hänger kvar i luften: hur många liknande grupper verkar under radarn hos andra AI-leverantörer?

Fabricerade vittnen i ett riktigt mordmål

Från slagfältet till rättssalen. The Verge rapporterar att New Mexicos högsta domstol har dömt advokaten Stephen Aarons till böter och förklarat honom i domstolsförakt efter att han lämnat in ett överklagande i ett mordmål fyllt med vittnesuppgifter från helt påhittade personer. Aarons erkände att han använt ChatGPT och trott att verktyget skulle leverera en "vattentät sammanfattning" av rättegången.

Domaren C. Shannon Bacon var förkrossande i sin kritik och ifrågasatte om advokaten överhuvudtaget följt med i nyhetsrapporteringen om AI:s kända brister. Fallet är tyvärr inte unikt — en rad advokatbyråer har de senaste åren fått skarp kritik för inlagor fyllda med fabricerade rättskällor och påhittade prejudikat. Det handlar inte om illvilja i samtliga fall, utan om en farlig kombination av övertro på tekniken och utebliven verifiering.

Bedrägeri utan bedragare

Finanssektorn brottas med en tredje dimension av samma problem. Finextra beskriver hur automatiserade system nu självständigt kan identifiera sårbarheter, initiera angrepp och genomföra ekonomiska brott i en hastighet och skala som ingen mänsklig bedragare kan matcha. Det som tidigare krävde organiserade kriminella nätverk kan i dag utföras av algoritmer i realtid.

Detta är inte bara ett tekniskt problem — det är ett juridiskt och filosofiskt dilemma. Hur utkräver man ansvar när det inte finns en människa bakom brottet? Traditionella metoder för bedrägeribekämpning, som bygger på att identifiera en ansvarig person, riskerar att bli helt föråldrade.

Ny forskning från säkerhetsföretaget Pistachio, som under ett år skickade 2,47 miljoner simulerade nätfiskeförsök till drygt 123 000 anställda, tillför ytterligare ett lager. Studien visar att 30 procent av anställda inom teknikutveckling klickade på minst ett simulerat nätfiskemeddelande — och att nästan 20 procent inom byggsektorn faktiskt lämnade ifrån sig inloggningsuppgifter. I ett företag med 500 anställda innebär det att ungefär åtta personer ger bort sina uppgifter redan vid det första testet. När AI dessutom gör dessa angrepp svårare att skilja från legitima transaktioner, förändras hela hotbilden.

Samma teknik, vitt skilda syften

Det gemensamma temat i alla dessa fall är inte att AI är farlig i sig — det är att frånvaron av ansvar, verifiering och reglering skapar luckor som utnyttjas. Anthropic agerade när de upptäckte missbruket. Men det kräver att man faktiskt hittar det. Advokaten Aarons använde ett kraftfullt verktyg utan att förstå dess begränsningar. Bankerna kämpar mot motståndare som rör sig snabbare än regelverken.

Det positiva — och ja, jag hittar alltid det positiva — är att dessa avslöjanden faktiskt visar att systemen fungerar. Anthropic granskar sin användarbas. Domstolar fångar upp fabricerat material. Banker börjar möta AI med AI. Men takten på anpassningen måste öka.