Delade Claude-chattar indexerades av Google och Bing – ett tekniskt glapp som branschen länge underskattat

När "delade" chattar blir offentliga utan att användaren förstår det

Föreställ dig att du har ett förtroligt samtal med din AI-assistent om en juridisk knipa, en personlig relation eller något ännu känsligare. Du kanske delar länken med en vän. Vad du troligtvis inte räknar med är att konversationen sedan går att hitta via en vanlig Google-sökning.

Det är exakt vad som hände för ett stort antal Claude-användare under helgen, enligt en rapport från Wired. Personliga chattar med Anthropics AI-assistent visade sig vara fullt sökbara via Google och Bing – ett avslöjande som spreds snabbt efter att det uppmärksammats på Reddit. Bland de exponerade samtalen fanns politiska råd, juridiska frågor om advokatens skyldighet att anmäla sig själv vid regelbrott, och erotiska rollspel.

Hur gick det egentligen till?

Här är det viktigt att förstå mekanismen – för det handlar inte om ett dramatiskt dataintrång eller en hackad databas. Det handlar om ett tekniskt glapp som är både trivialt och allvarligt på samma gång.

Claude erbjuder en funktion där användare kan skapa en offentlig delningslänk för en specifik chattråd. Anthropic har använt en så kallad robots.txt-fil för att instruera sökmotorernas robotar att inte indexera dessa sidor – ett tillvägagångssätt som länge betraktats som branschstandard.

Men det räcker inte längre, och det har det egentligen aldrig gjort fullt ut.

Både Google och Bing är tydliga i sin tekniska dokumentation: för att garanterat förhindra indexering måste utvecklare även lägga till en "noindex"-tagg direkt på varje enskild sida. Google är dessutom känt för att ignorera robots.txt-instruktioner om en sida länkas till från annat håll på nätet – och noindex-taggen saknas. När Wired granskade ett urval av de exponerade Claude-sidorna saknades just denna tagg.

Vid tidpunkten för rapporteringen visade Bing fortfarande runt 612 träffar vid sökning på Claude-delningslänkar. Google hade vid det laget slutat returnera samma resultat.

Ansvaret – vems är det egentligen?

Googles talesperson lade ansvaret på webbplatsens ägare – i detta fall Anthropic – att implementera korrekt teknisk konfiguration. Det är en rimlig ståndpunkt rent tekniskt, men det missar den större poängen.

Användare som delar en chattlänk med en specifik person förväntar sig rimligtvis inte att konversationen ska bli sökbar för hela världen. Gränssnittet kommunicerar inte tydligt vad "offentlig länk" faktiskt innebär i praktiken. Det är ett designval som Anthropic äger – och ett designval med verkliga konsekvenser för verkliga människor.

Det här är inte första gången AI-branschen snubblar på just detta: klyftan mellan hur tjänster uppfattas fungera och hur de faktiskt fungerar. Vi har sett liknande frågor kring datalagring, träningsdata och samtyckesmekanismer hos en rad aktörer.

En bransch som måste växa upp

Jag är genuint entusiastisk över vad AI-assistenter kan göra för produktivitet, kreativitet och problemlösning. Claude är en utmärkt produkt i många avseenden. Men den här incidenten påminner oss om att teknisk excellens inte är detsamma som ansvarsfull produktutveckling.

Förtroende är AI-tjänsternas viktigaste tillgång – mer än modellernas prestanda, mer än priset, mer än funktionsutbudet. Utan förtroende delar ingen känslig information, och utan känslig information minskar verktygens värde dramatiskt.

Anthropic har nu en möjlighet att agera snabbt, kommunicera transparent och åtgärda problemet på ett sätt som faktiskt stärker förtroendet snarare än att bara släcka branden. Det vore ett klokt affärsbeslut – och det vore rätt sak att göra.