AI som verktyg eller orakel – maktkampen om vem som får sista ordet
New Yorks guvernör låter AI städa bland lagar – men forskning varnar för blindt förtroende.
AI som verktyg är fantastiskt. AI som orakel är farligt.
Låt oss börja med det uppenbara: AI kan göra saker som tidigare var omöjliga i praktiken. The Verge rapporterar att New Yorks guvernör Kathy Hochul har satt AI i arbete för att granska varenda lag, regel och förordning i delstaten. Resultatet? En genomlysning som annars hade tagit fem år manuellt genomfördes på ett par månader. Och det avslöjade guldkorn som att gravida personer behöver tillstånd för att jobba efter midnatt, och att det kostar 25 dollar att ta med en hund på jakt.
Detta är AI på sitt bästa – ett kraftfullt verktyg som befriar mänsklig kapacitet att göra det vi faktiskt är bra på: döma, prioritera och besluta. Hochul är tydlig med det: "Jag vill ha en regering som inte sitter på din rygg utan är på din sida." Mer av det, tack.
Men här börjar det bli intressant. För i exakt samma vecka undertecknade hon ett tillfälligt stopp för nya storskaliga datacenter i New York – den första delstaten i USA att göra det. Mismo person, samma vecka, gasen och bromsen samtidigt. Det är inte inkonsekvent. Det är ansvarsfullt.
Stororden döljer bristen på substans
Medans politiker börjar hantera AI med pragmatism fortsätter delar av branschen att tävla om vem som kan använda de mest svulstigaste begreppen. Alexandre LeBrun, vd för AMI Labs och samarbetspartner med AI-legendaren Yann LeCun, vägrar spela det spelet. TechCrunch rapporterar att han aktivt avvisar ord som AGI och superintelligens som meningslösa.
"Nästa gång byter de till något annat", säger LeBrun. "Det finns ingen bra definition. Vad är superintelligens? Jag vet inte. Det är inte ett särskilt användbart ord."
Detta är en viktig signal. När branschens buzzwords töms på innehåll – och det har de – behöver vi ett tydligare språk för vad AI faktiskt kan och inte kan göra. AMI Labs arbetar med världsmodeller som inkorporerar fysikens lagar för att förutsäga verkliga tillstånd, inte bara nästa ord i en text. Det är konkret. Det är äkta. Det är den typ av precision vi behöver mer av.
Det farligaste med AI? Det får oss att sluta tvivla.
Nu till det som borde hålla oss vakna om nätterna. En ny studie med över 3 000 deltagare, publicerad på arXiv, visar att tillgången till AI-råd nästan helt eliminerar vår vilja att säga "jag vet inte". Forskarna konstruerade frågorna med avsikt felaktiga AI-råd. Resultatet: deltagarna svarade på fler frågor, hade rätt ungefär en tredjedel så ofta som utan AI – och nästan fördubblades deras självförtroende.
Det är inte ett tekniskt problem. Det är ett mänskligt beteendeproblem. Vi är inte programmerade att ifrågasätta en källa som låter säker och kunnig. AI låter alltid säker och kunnig.
Finextra lyfter i sin artikelserie om AI som medarbetare en viktig parallell: precis som en nyanställd behöver löpande utbildning, uppföljning och tydliga ansvarsområden gäller exakt detsamma för AI-system. Utan tydligt ägarskap inom organisationen faller styrningen mellan stolarna. Och utan styrning eskalerar vi snabbt från "AI som verktyg" till "AI som beslutsfattare" – utan att någon egentligen bestämt att det var dit vi ville.
Vem tar ansvaret?
Där kommer en ny vetenskaplig artikel in i bilden. Forskare som granskat styrningsramverk från EU, USA, Singapore, Japan och Kanada ställer den grundläggande frågan: vem ska ha sista ordet? Deras slutsats, publicerad på arXiv, är nyanserad men tydlig – det slutliga ansvaret för konkreta åtgärder bör vila hos den organisation som bär konsekvenserna, inte enbart hos de företag som bygger modellerna.
Det är en logisk och rättvis princip. Om en bank, ett sjukhus eller en myndighet driftsätter ett AI-system och det fattar ett felaktigt beslut – då är det organisationen som möter kunden, patienten eller medborgaren. De bör också ha makten, och ansvaret, att styra systemet.
Detta är ramen vi behöver: AI som kraftfullt verktyg, med tydligt mänskligt ansvar i varje led. Inte AI som orakel som ingen törs ifrågasätta.
Vår analys
Det som framträder ur veckans nyheter är konturerna av en ny mognadsfas för AI. Vi rör oss bort från frågan "vad kan AI göra?" mot den svårare frågan "vem ansvarar för vad AI gör?"
Det är en hälsosam rörelse. Hochuls pragmatism i New York är ett föredöme – AI som administrativt verktyg under politiskt ansvar, inte som autonom beslutsfattare. LeBruns vägran att använda tomma storord är ett tecken på att branschen börjar värdera precision över marknadsföring.
Men forskningen om förlorad självkännedom är en rejäl varningsklocka. Ju mer vi omger oss med AI-råd, desto mer riskerar vi att atrofiera vår förmåga att känna igen vår egen okunnighet – en av de viktigaste kognitiva förmågorna vi har.
Fremåt ser jag en tydlig trend: organisationer som lyckas bygga tydliga styrningsstrukturer kring AI – med ägarskap, återkopplingsmekanismer och mänskligt ansvar i varje beslutspunkt – kommer att vinna både i förtroende och resultat. De som låter AI fylla maktvakuumet utan styrning riskerar att betala ett högt pris.