Tre händelser som tvingade fram en ny verklighet: AI-regleringen måste ske nu

Ordningsmakten går all-in på AI — utan spelregler

Det är lätt att förlora sig i abstrakta diskussioner om AI-styrning. Men nyligen samlade Internationella polischefssällskapet tusentals polischefer och teknikbolag i Fort Worth, Texas, för en konferens som The Verge beskriver som ett skyltfönster för "framtidens polisarbete". På mässgolvet: ansiktsigenkänningskameror, drönare, skottdetektionssystem och automatiserade verktyg för rapportskrivning och bakgrundskontroller. Försäljningsargumentet liknar det vi sett i företagsvärlden i flera år — låt maskinen ta rutinerna, frigör människan för viktigare uppgifter. Men inom polisväsendet kan en felaktig matchning i ett ansiktsigenkänningssystem inte jämföras med ett felaktigt kundtjänstsvar. Den kan sätta en oskyldig person bakom lås och bom.

Det som gör situationen extra allvarlig är frånvaron av statlig tillsyn eller branschgemensamma standarder. Polischefer tvingas, enligt The Verge, lita blint på leverantörernas egna uppgifter. Polischefen Abrem Ayana i Brookhaven, Georgia, sätter fingret på problemet: "Mycket av det är säljknep som inte håller vad de lovar." Det är en ärlig och oroväckande beskrivning av ett system där livavgörande beslut kan påverkas av teknik som ingen har granskat tillräckligt.

Tre dagar och en läxa om samtycke

Parallellt med detta utspelade sig ett dramatiskt förlopp hos Meta. När företaget i början av juli lanserade en funktion i sin AI-app som lät användare tagga offentliga Instagram-konton och generera bilder med deras utseende — aktiverad som standard — tog det bara tre dagar innan funktionen stängdes ned. Skaparen Sam Sooin Yangs förklaringsvideo fick över tre miljoner visningar. Rapporterar Wired: "De borde ha låtit användarna välja att delta, inte tvingat dem att aktivt välja bort."

Thorин Klosowski på Electronic Frontier Foundation kallar reaktionshastigheten för ett rekord. Tre dagar är anmärkningsvärt kort tid, och det signalerar något viktigt: användarna har tröttnat. Google Gemini dyker upp som standard i Docs. LinkedIn och Dropbox gör detsamma med sina AI-verktyg. Det har blivit en ritual för miljontals människor att leta sig igenom inställningsmenyer för att stänga av funktioner de aldrig bett om. Den tröttheten är nu en marknadskraft i sig.

DeepMind ritar kartan för ansvarsfullt AI — och EU sätter press

Mitt i allt detta presenterade Google DeepMind och Isomorphic Labs sin strategi för biologisk motståndskraft — en tvådelad ansats som dels syftar till att hindra illvilliga aktörer från att utnyttja deras modeller, dels ska stärka samhällets förmåga att hantera pandemier och biologiska hot. Samarbeten har inletts med över 15 aktörer, däribland statliga organ och biosäkerhetsorganisationer.

Strategin är strukturerad kring tre kärnområden: förebygga missbruk, snabbt upptäcka utbrott och möjliggöra effektiva insatser. Det är ett konkret exempel på hur ett av världens ledande AI-laboratorier tar eget ansvar — utan att vänta på lagstiftaren. Och det är precis den typen av proaktivitet som regleringsdiskussionen behöver fler exempel på.

Samtidigt agerar EU från sin kant. Enligt The Verge tvingas nu Google, under den så kallade DMA-förordningen, att öppna Android-plattformen och delar av söktjänstens data för rivaliserande sökmotorer och AI-assistenter. Målet är att bryta upp den dominans som några få globala aktörer byggt upp. Beslutet kan komma att sätta prejudikat för hur liknande fall hanteras framöver, särskilt i takt med att AI-tjänster snabbt befäster sina positioner på marknaden.

Regleringsfrågan är inte längre framtid — den är nu

Dessa tre händelser hänger ihop på ett sätt som är svårt att ignorera. Polisväsendet adopterar AI snabbare än lagstiftaren hinner reagera. Konsumenter börjar organisera sig mot företag som tar sig friheter med deras data och utseende. Och de ledande AI-laboratorierna börjar inse att ansvaret inte kan delegeras till politikerna — det måste levas inifrån organisationen.

Det är en mognadsprocess. Den är rörig, den är ojämn, och den sker på flera fronter simultaneously. Men den sker. Och för den som vill vara med och forma hur det slutar är det just nu det gäller att ta plats i samtalet.