AI tar egna beslut — och ingen vet riktigt vem som har ansvaret

Från assistent till aktör

Det har länge talats om att AI-agenter ska förändra hur vi lever och arbetar. Den diskussionen är nu överspelad — förändringen pågår redan.

Google meddelade nyligen, enligt Wired, att Gemini på Pixel-telefoner nu kan ringa telefonsamtal å användarens vägnar. Inte svara på frågor. Inte föreslå formuleringar. Ringa. Du ger uppdraget — boka ett bord, lös ett ärende hos kundtjänst — och Gemini lyfter luren åt dig. Det är en till synes liten funktion, men symboliken är enorm: AI-agenten har tagit steget från informationskälla till självständig aktör i den fysiska världen.

Apple arbetar parallellt med en genomgripande uppgradering av Siri inför iOS 27, och hela branschen rör sig i samma riktning — mot röstbaserade gränssnitt som gör tangentbordet överflödigt. Vi befinner oss i ett teknikskifte som påminner om övergången från stationära datorer till smartphones. Snabbt, ofrånkomligt och med konsekvenser vi ännu inte fullt ut förstår.

Detaljhandelns blindfläck

Medan teknikjättarna bygger ut sina agentplattformar, brottas företag i detaljhandeln med en mer akut verklighet. Retail Dive rapporterar om ett växande tillsynsproblem: AI-agenter sprids i snabb takt inom branschen, men ledningen har ofta svårt att ens hålla reda på vilka system som faktiskt är i drift.

Ett av de mest oroande fenomenen är det som kallas skugg-AI — verktyg som anställda börjar använda på eget initiativ, utan ledningens kännedom eller godkännande. Men utmaningen stannar inte där. Även de officiellt godkända systemen ställer till det när de börjar agera mer självständigt och kopplas samman i kedjor. Kunduppgifter, betalningsinformation och annan reglerad data flödar genom dessa kedjor — och ingen har full insyn i vart den tar vägen.

Det är ett klassiskt mönster: tekniken springer ifrån förmågan att styra den. Skillnaden den här gången är att konsekvenserna inte stannar inom IT-avdelningens väggar. De når kunder, tillsynsmyndigheter och, i slutändan, varumärkets trovärdighet.

En vakthund föds i München

In i detta vakuum kliver Kontext Security. Det tyska startupbolaget, grundat i München av Jens Ernstberger och Michel Osswald, har enligt SecurityWeek nyligen avslutat en finansieringsrunda på fyra miljoner dollar — drygt 42 miljoner kronor — ledd av riskkapitalfonden 42CAP, med stöd från bland andra a16z CSX.

Bolagets produkt är en säkerhetsplattform som placerar sig mellan AI-agenterna och de system de har tillgång till. I realtid utvärderas varje agents agerande mot förinställda säkerhetspolicyer — och åtgärder som inte är godkända blockeras omedelbart. Plattformen tar hänsyn till agentens identitet, dess tilldelade uppgift, vilket system den försöker nå och vad den konkret begär att få göra.

Verkställande direktören Ernstberger sätter fingret på det som gör problemet svårt: en AI-agent kan vara korrekt verifierad, använda ett godkänt verktyg och ändå utföra en åtgärd som ingen har auktoriserat. Autentisering är inte detsamma som tillstånd. Det är en distinktion som många organisationer ännu inte har tagit in på allvar.

Tre nyheter, ett skifte

Vad vi ser i dessa tre nyheter är inte slumpmässiga teknikhändelser. Det är konturen av ett nytt landskap.

När Google låter Gemini ringa samtal, när detaljhandeln förlorar kontroll över sina egna AI-flöden och när säkerhetsbolag får riskkapital för att lösa just det problemet — då rör sig hela ekosystemet i takt. Efterfrågan skapar utbudet. Makten förskjuts från den som bygger agenten till den som kan övervaka och styra den.

Det är inte längre en fråga om ifall AI-agenter tar plats i vardagen. De är redan där. Frågan är vem som bestämmer vad de gör.