OpenAI begränsar sin egen modell — kan vara för farlig för att användas fritt

När säkerhetsramverket slår in på riktigt

Det finns en mening i OpenAIs senaste rapport som stannar kvar: de kan inte utesluta att deras kommande modell Astra klassificeras som "Critical" — den högsta möjliga risknivån i företagets eget säkerhetsramverk, det så kallade Preparedness Framework. Enligt Computer Sweden har OpenAI som en direkt följd av detta begränsat modellens nätverkstillgång, stärkt skyddet av interna parametrar och pausat internt bruk som inte uppfyller de nya säkerhetskraven.

Vad innebär "Critical" i praktiken? För att nå den nivån ska en modell på egen hand kunna identifiera och utnyttja tidigare okända säkerhetshål — så kallade nolldagssårbarheter — utan mänsklig vägledning, och dessutom kunna planera helt nya angrepp mot välskyddade system utifrån enbart en övergripande instruktion. Det är kapaciteter som tidigare var förbehållna välfinansierade statliga underrättelsetjänster.

Det anmärkningsvärda här är inte att en AI-modell är kapabel. Det anmärkningsvärda är att ett av världens ledande AI-företag väljer att bromsa sin egen produkt på grund av det. Det är ett tecken på att säkerhetsdebatten har tagit steget från konferenspanel till faktiskt beslutsunderlag.

Granskning under press — på två fronter

Samtidigt rapporterar Ars Technica om ett annat system under kollaps: den kollegiala granskningen av vetenskaplig forskning. Antalet artiklar i de stora forskningsdatabaserna växer med 5,6 procent per år — en takt som nu är exponentiell — och redaktörer vittnar om desperation. Steven Mack, redaktör för tidskriften Human Immunology, behöver i dag kontakta upp till trettio forskare för att hitta en enda villig granskare. För fem år sedan räckte fem till tio kontakter.

AI är en del av problemet: verktyg som kan generera välformulerade manuskript på minuter bidrar till att öka inflödet av artiklar till ett system som redan är överbelastat. Men AI kan också vara en del av lösningen — automatiserad förhandsgranskning, plagiat- och konsistensanalys, smarter matchning av manuskript till lämpliga granskare. Det är inte givet att tekniken som skapar trycket också är den som spricker under det.

Hastighet kontra tillförlitlighet — en tydlig skiljelinje

En tredje datapunkt i veckans nyhetsbild kommer från Siemens. Deras AI-verktyg Simcenter PhysicsAI kan enligt företaget utföra fysiksimuleringar upp till 1 000 gånger snabbare än traditionella beräkningsmetoder. Men Sam Mahalingam, som leder affärsutvecklingen, var ovanligt rättfram på konferensen Realize LIVE i Bangalore när han fick frågan om verktyget lämpar sig för säkerhetskritiska tillämpningar som krockkuddar:

— Nej, det gör det inte, sa han, utan förbehåll.

Noggrannheten ligger inom ett till tre procents avvikelse jämfört med traditionella simuleringar — imponerande nära, men inte tillräckligt nära för att certifiera en komponent som kan avgöra om någon överlever en bilkrasch. Verktyget är i stället tänkt för tidiga konstruktionsfaser: ett snabbt filter som gallrar bort dåliga alternativ, varefter de återstående genomgår fullständig beräkning.

Det är en ärlig och välkalibrerad positionering. AI är inte här för att ersätta de sista procenten av precision — den är här för att frigöra tid och resurser så att ingenjörer kan lägga kraften där den verkligen behövs.

Ett mönster träder fram

Läser man dessa nyheter tillsammans ser man ett mönster: AI-säkerhetsdebatten börjar konkretiseras. Det handlar inte längre om hypotetiska framtidsscenarier utan om faktiska produktbeslut (OpenAI pausar Astra), faktisk systembelastning (granskningskrisen) och faktisk industriell praxis (Siemens sätter tydliga gränser för vad deras verktyg får godkänna).

Det är, om man frågar mig, ett hälsotecken. Inte för att problemen är lösta — det är de inte — utan för att branschen börjar prata om dem med en precision som faktiskt leder till handling.