Google backade på ett dygn — men vem stoppar nästa AI-katastrof?

När teorin möter praktiken

Vi pratar mycket om AI-etik i konferensrum och på LinkedIn. Vi producerar ramverk, policyer och princippapper. Men den verkliga etiken visar sig inte i dokumenten — den visar sig i det ögonblick något går fel, och någon måste bestämma sig för vad man gör härnäst.

Den 30 juli lanserade Google en ny funktion i Google Earth: ett AI-verktyg byggt på bildgenereringsmodellen Nano Banana 2 som lät vem som helst manipulera riktiga satellitbilder med enkla textkommandon. Tanken var inspirerande — låt lärare återskapa antikens Pompeji, låt stadsplanerare visualisera färdiga byggprojekt. Potentialen var uppenbar.

Men potentialen för missbruk visade sig vara minst lika uppenbar.

Ett dygn räckte

Undersökningsjournalisten Henk van Ess, verksam vid sajten Digital Digging, behövde bara några sekunder för att fabricera bilder av flyktingar vid den mexikanska gränsen och en bombkrater bredvid ett sjukhus i Gaza — allt placerat ovanpå Googles egna autentiska satellitbilder. Enligt van Ess, som rapporterar The Verge, avvisades ingenting: "Ingenting nekades, ingenting tonades ned, och ingenting uppmanade mig att prova en annan formulering."

Eliot Higgins, grundare av den granskande organisationen Bellingcat, illustrerade problemet ännu tydligare på Bluesky — en enkel uppmaning gav honom en bild av en jättelik guldfigur av president Trump utanför Vita huset, trovärdigt förankrad i Googles satellitdata. Hans kommentar var svidande sarkastisk: "Ingen möjlighet att det här kan missbrukas."

Googles första försvarslinje — att bilderna försågs med digitala vattenstämplar — höll inte heller. Van Ess visade hur ett välkänt AI-detekteringsverktyg, Hive, lurades av en video skapad i Google Earth. Fabricerat material kan alltså spridas vidare trots vattenstämplarna.

Fredagen därpå var funktionen borta. Enligt Ars Technica erkände Google att tjänsten åtnjuter ett särskilt förtroende som en källa till faktainformation om världen — och att man hade underskattat vad det förtroendet faktiskt innebär.

Detta är ett exempel på hur snabb återkoppling från civilsamhälle och granskande journalistik faktiskt fungerar. Google lyssnade, och handlade. Det är inte självklart — och det förtjänar att erkännas.

Skolan som valde tystnaden

Men låt oss hålla det perspektivet i minnet när vi vänder blicken mot Pennsylvania.

Vid Lancaster Country Day School skapade ett antal pojkar AI-genererade nakenbilder på minst 59 kvinnliga klasskamrater. Bilderna cirkulerade bland eleverna. Flickorna tvingades gå till skolan varje dag medan detta pågick.

Skolans respons? Man intervjuade den utpekade eleven och hans mor — som båda förnekade kännedom. Ärendet lades ned. Föräldrarna till de drabbade flickorna underrättades inte. Och när offren nu stämmer skolan, argumenterar ledningen enligt Ars Technica att man saknar rättslig skyldighet att polisanmäla AI-genererade nakenbilder, eftersom sådana i dagsläget inte klassificeras som faktiska övergrepp mot barn i delstatens lagstiftning.

En skolledare ska dessutom ha avfärdat situationen med orden: "Pojkar är pojkar."

Det är tre ord som säger allt om vad som händer när institutioner gömmer sig bakom juridikens miniminivå istället för att leda med omdöme.

Samma teknologi, två helt olika svar

Dessa två fall handlar ytterst om samma grundfråga: Vad gör du när ett AI-verktyg orsakar skada?

Google valde snabb handling och öppenhet. Skolan valde att invänta lagstiftningens tröghet.

Det är inte teknologin som avgör utfallet. Det är kulturen, ledarskapet och viljan att ta ansvar — även när lagen inte tvingar en till det. AI-verktyg skapar nya möjligheter i rasande takt, men de skapar också nya former av skada som vår rättsliga infrastruktur ännu inte hunnit ifatt.

Förtroendet för AI som transformerande kraft byggs inte i pressmeddelanden. Det byggs i de ögonblick som dessa — när någon väljer att göra rätt, fast det kostar något.