Får AI sparka dig? Nej, säger Kalifornien – och resten av världen lyssnar

När algoritmen fick för mycket makt

Siffran är svår att ignorera: 73 procent av tusen tillfrågade HR-chefer uppger att de använder AI för att fatta anställningsbeslut. Hela 52 procent använder tekniken för att planera neddragningar och omorganisationer. Det visar en undersökning från april 2026, refererad av ZDNet. Automatiseringen av arbetslivets tuffaste beslut har med andra ord gått snabbt – kanske snabbare än varken lagstiftare eller arbetstagare hunnit förstå.

Det är mot den bakgrunden som Kaliforniens guvernör Gavin Newsom nyligen skrivit under det som redan fått smeknamnet "No Robo Bosses Act". Lagen träder i kraft den 1 juli 2027 och slår fast en princip som egentligen låter självklar: en människa måste granska alla AI-genererade rekommendationer om disciplinåtgärder eller uppsägningar. Om granskaren bedömer att systemets slutsats är felaktig, ofullständig eller vilseledande, får beslutet helt enkelt inte verkställas.

Det är inte en lag mot AI. Det är en lag för mänskligt ansvar.

Ett prejudikat som sänder vågor

Kalifornien är världens femte största ekonomi. När delstaten lagstiftar sätter den normer – inte bara för USA:s övriga delstater, utan ofta för hela den globala affärsvärlden. Det handlar inte om att bromsa teknikutvecklingen, utan om att säkerställa att den sker på ett sätt som människor faktiskt kan lita på.

Enligt lagen måste arbetsgivaren dessutom informera den berörda anställde om skälen bakom ett beslut, inklusive vilket underlag som använts – personalakter, utvärderingar, arbetsprover och kollegors omdömen. Anställda som misstänker att reglerna inte följts kan vända sig till Kaliforniens arbetsmarknadskommissionär. Det är transparenskrav som tvingar fram en ny nivå av dokumentation och spårbarhet i HR-systemen.

För svenska företag – som redan lyder under EU:s AI-förordning och Dataskyddsförordningen – bör detta vara ett tydligt tecken. Regleringsvågen är inte på väg. Den är redan här.

Branschens eget svar: förtroende byggs inifrån

Parallellt med att lagstiftarna skärper kraven ser vi att ledande AI-bolag börjar ta eget initiativ. Anthropic lanserade nyligen OSS Scanner, en gratistjänst som erbjuder återkommande säkerhetsgranskningar av projekt med öppen källkod, rapporterar The Verge. Projekten får tillgång till "grundliga, regelbundna säkerhetsskanningar av våra starkaste modeller utan kostnad."

Ytan är generös. Men signalen är ännu viktigare än själva produkten: Anthropic erkänner att öppen källkod utgör ryggraden i en enorm del av världens digitala infrastruktur – och att brister där kan få vittgående konsekvenser. Att proaktivt erbjuda säkerhetsgranskning är ett sätt att bygga det förtroende som lagstiftarna annars tvingas kräva genom förordningar.

Detta är en sund dynamik. Reglering och branschens eget ansvarstagande behöver inte vara varandras motpoler – de kan förstärka varandra.

Vad svenska HR-avdelningar behöver göra nu

För en svensk HR-chef eller affärsledare är budskapet tydligt: det räcker inte längre att fråga om er AI-leverantör är säker. Ni behöver ställa hårdare frågor.

• Vem är ansvarig när ett AI-system rekommenderar en uppsägning?
• Hur dokumenteras det underlag som systemet grundar sig på?
• Finns det en mänsklig granskningsfunktion inbyggd i processen – inte som ett efterhandspålägg, utan som ett strukturellt krav?
• Hur hanterar ni rätten till förklaring för den anställde som berörs?

Dessa frågor är inte längre filosofiska. De är juridiska. Och om Kaliforniens lag visar sig bli det prejudikat många bedömare tror, är det bara en tidsfråga innan liknande krav dyker upp i europeisk lagstiftning – eller förtydligas i den AI-förordning som redan gäller.

Den goda nyheten? Företag som bygger robusta, transparenta och mänskligt granskade AI-processer redan idag vinner på det dubbelt: de minskar sin juridiska exponering och bygger ett starkare förtroende hos sina medarbetare. I en tid då talangförsörjning är en av de viktigaste strategiska frågorna, är det ingen liten sak.