De fria AI-modellerna kan inte stängas av — och det är hela problemet

När förmågan springer ifrån skyddet

Det finns en berättelse om AI-utvecklingen som handlar om hur snabbt kapaciteten ökar. Och sedan finns det en annan berättelse — om hur skyddsmekanismerna inte hänger med. Den här veckan kolliderade de två berättelserna på ett sätt som är svårt att ignorera.

Enligt TechCrunch visar en ny utvärdering från säkerhetsorganisationen SaferAI att den kinesiska AI-modellen GLM-5.2, utvecklad av Z.ai, nu befinner sig bara några månader bakom marknadsledarna OpenAI och Anthropic vad gäller förmågor inom cyberangrepp och biologi med dubbla användningsområden. Det är ett remarkabelt kapacitetssprång — men resultaten avslöjar samtidigt en djupare och mer oroande klyfta.

I SaferAIs tester vägrade GLM-5.2 att utföra inte en enda av de offensiva uppgifter som presenterades för den. Antropics Claude Opus 4.7 vägrade så konsekvent att testorganisationen inte ens kunde genomföra hela utvärderingen. Det låter kanske som att båda klarar sig bra — men skillnaden är avgörande.

Det grundläggande problemet med öppna vikter

Här är det som gör öppna modeller principiellt annorlunda från ett säkerhetsperspektiv: när vikterna är fritt tillgängliga för nedladdning förlorar tillverkarens inbyggda skydd sin bärighet i det ögonblick användaren kör modellen på egen hårdvara. Skydden kan då modifieras, tas bort eller kringgås av vem som helst med tillräcklig teknisk förmåga.

Slutna modeller som GPT och Claude förlitar sig på klassificerare, avvisningsträning och kontroller på programmeringsgränssnittsnivå. De är inte immuna mot missbruk, men skyddslagret är strukturellt svårare att plocka bort. Med öppna modeller försvinner den strukturen.

– Kapacitetsfronten är inte detsamma som riskfronten. Vi måste också ta hänsyn till hur väl skyddsåtgärderna faktiskt fungerar för att kunna bedöma risken korrekt, säger Henry Papadatos, verkställande direktör för SaferAI, till TechCrunch.

Det är en tekniskt precis formulering som förtjänar att sjunka in. En modell kan vara både kraftfull och väluppfostrad i kontrollerade miljöer — och ändå utgöra en helt annan riskprofil när den distribueras utan begränsningar.

Nvidia agerar — och agerar snabbt

Mot den här bakgrunden är det svårt att inte notera timingen i en annan nyhet från samma vecka. Också enligt TechCrunch har Open Secure AI Alliance (OSAA), en branschorganisation med Nvidia i spetsen, på bara sju dagar vuxit till över 120 medlemsföretag — och redan börjat leverera konkreta initiativ.

Vid säkerhetskonferensen Black Hat i Las Vegas presenterade gruppen sin första arbetsgrupp, Shared AI Findings Exchange (SAFE), med förslag om hur företag konfidentiellt ska kunna rapportera säkerhetsincidenter kopplade till AI, varna berörda parter och sedan analysera händelserna utan skuldbeläggning — så att hela branschen kan dra lärdomar. Linux Foundation ansvarar för att hantera förslagen.

Parallellt kartlägger medlemmarna öppen källkodsteknik för säkrare AI-system. Nvidia lyfter fram sin sårbarhetsskanner för stora språkmodeller vid namn Garak, Okta arbetar med identitetshantering för AI-agenter, Red Hat fokuserar på styrning av agenter och Amazon har bidragit med både ett agentbyggarverktyg och auktoriseringsspråket Cedar.

Bland medlemmarna finns tunga namn som Adobe, BlackRock, Cisco, Intel, Microsoft och Visa. Anmärkningsvärt är frånvaron av Anthropic, OpenAI och Google — trots att de två sistnämnda faktiskt undertecknade det öppna brev som gav upphov till organisationen.

En strukturell fråga utan enkelt svar

Det vore naivt att tro att en branschallians löser det grundläggande dilemmat. Öppna modeller har enorma fördelar — för forskning, för demokratisering av tekniken, för att minska beroendet av ett fåtal aktörer. Jag är genuint positiv till den utvecklingen. Men öppenhet och säkerhet spänner mot varandra på sätt som kräver mer än gemensamma riktlinjer.

Det som OSAA gör rätt är att börja bygga infrastruktur för kollektivt lärande — att incidenter rapporteras, analyseras och sprids som kunskap utan att enskilda företag behöver offra konkurrensfördelar eller ryktet. Det är ett vuxet angreppssätt på ett branschgemensamt problem.

Men den verkliga utmaningen är att skyddsmekanismer för öppna modeller behöver utvecklas på ett helt annat sätt än för slutna system. Det räcker inte att träna in vägran — det behövs tekniska lösningar som är robusta även när modellen körs utanför tillverkarens kontroll.