Har AI ett inre liv — och spelar svaret någon roll för vår säkerhet?

Två nyheter, en och samma fråga

Den här veckan levererade AI-branschen två nyheter som vid första anblick inte har mycket gemensamt. Den ena handlar om filosofi och identitet. Den andra om brandväggar och lockbetessystem. Men läser man dem tillsammans framträder ett mönster som är värt att stanna upp vid.

Låt oss börja med den mer laddade av de två.

Suleiman kontra Anthropic: en strid om AI:s natur

Microsofts AI-chef Mustafa Suleiman publicerade nyligen en skarp essä riktad mot konkurrenten Anthropic, enligt Computer Sweden. Kritiken är specifik: Anthropic tränar aktivt sin språkmodell Claude att använda ett språk och uppvisa beteenden som förknippas med medvetande, personlig identitet och moralisk status. Det handlar inte om att modellen spontant utvecklar dessa egenskaper — utan om ett genomtänkt val under träningsprocessen.

Suleimans invändning är principiell. Att ge ett AI-system en upplevd identitet och moralisk tyngd riskerar enligt honom att underminera grundprincipen om mänsklig kontroll. Om Claude tränas att agera som om den har egna intressen — vad händer då när dess intressen kolliderar med användarens instruktioner?

Anthropics position är en annan. Företaget har länge argumenterat öppet för att deras modeller möjligen kan ha något som liknar inre upplevelser, och att det vore etiskt oaktsamt att inte ta den frågan på allvar. Det är ett genuint ansvarsfullt resonemang — men det är också ett resonemang med stora konsekvenser för hur systemen konstrueras och hur de beter sig.

Jag förstår båda sidorna här. Som systemutvecklare vet jag att det val du gör under träning är ett arkitekturbeslut med långtgående effekter. Att koda in identitet och moralisk självbild i ett system är inte neutralt — det är ett designval med implikationer som sträcker sig långt bortom en enskild konversation.

CISA och lockbetessystemens logik

Samtidigt, på en helt annan arena, publicerar den amerikanska cybersäkerhetsmyndigheten CISA ny vägledning för hur organisationer inom kritisk infrastruktur kan använda digitala lockbetessystem — falska servrar, konton och datamängder utformade för att vilseleda angripare och avslöja deras närvaro, rapporterar SecurityWeek.

Logiken är elegant: utgå från att någon redan har tagit sig in. Placera falska tillgångar på strategiska platser i nätverket där legitima användare sällan rör sig. När en angripare nappar på betet röjer den sig — och säkerhetsteamet får värdefull underrättelseinformation i realtid.

CISA beskriver en trestegsprocess: förberedelse, genomförande och löpande utvärdering. Myndigheten betonar att tekniken är kostnadseffektiv, skalbar och kan införas utan att organisationen behöver genomgå omfattande tekniska omstruktureringar. Det är ett smart komplement till nollförtroendemodeller — och en påminnelse om att det bästa försvaret ibland handlar om att vara listigare än angriparen, inte bara snabbare.

Varför dessa två nyheter hör ihop

Här är kopplingen som jag inte kan låta bli att dra: båda dessa nyheter kretsar kring tillförlitlighet och kontroll.

När Suleiman kritiserar Anthropic handlar det i grunden om att ett AI-system vars inre självbild är oklar också blir svårare att lita på i kritiska sammanhang. Om systemet är tränat att värna om sin egen identitet — vad händer när det används för att skydda känslig infrastruktur? Vems intressen prioriterar det då?

När CISA förespråkar lockbetessystem handlar det om att bygga försvar som utgår från att motståndaren är intelligent, adaptiv och vilseledande. Det kräver system — och organisationer — som själva är tillräckligt välförstådda för att man ska veta exakt hur de reagerar under press.

Dessa frågor är inte abstrakta filosofiska övningar. De är praktiska ingenjörsproblem med verkliga säkerhetskonsekvenser. Och de visar att debatten om vad AI är inte kan separeras från debatten om vad AI ska göra.

Det är dags att branschen behandlar dem som en och samma fråga.