Du är råvaran, inte kunden: AI-branschen sviker sina användare

Förtroendet är valutan — och den håller på att devalveras

Jag är genuint entusiastisk över vad AI kan göra för människor och organisationer. Men den här veckan kom tre påminnelser om att teknikbranschen fortfarande har ett grundläggande problem: man bygger produkter med användarna som råvara, inte som kund.

Låt oss ta dem i tur och ordning — för tillsammans berättar de något viktigare än var och en för sig.

Anthropic förvandlar Claude till ett övervakningsverktyg

AI-företaget Anthropic meddelade att man inför vattenstämplar i Claude — dolda markeringar inbäddade i AI-genererad text som gör det möjligt att spåra varifrån innehållet härstammar. Reaktionen från användarna, bland annat via diskussionsforumet Reddit, var omedelbar och skoningslös, rapporterar Breakit.

Och ilskan är begriplig. Många använder Claude för att effektivisera arbetet eller få hjälp med studier — utan att nödvändigtvis ha berättat det för arbetsgivare eller lärare. Vattenstämplar riskerar att riva bort den diskretion som omgärdat användningen.

Här ligger det verkliga problemet: Anthropic fattade beslutet utan tydligt samtycke från användarna. Argumenten för tekniken är inte orimliga — spårbarhet kan motverka spridning av vilseledande information och fusk i stor skala. Men när ett bolag på egen hand bestämmer sig för att märka användarnas innehåll, har man passerat en viktig gräns. Man har gjort Claude till ett verktyg som i lika hög grad tjänar Anthropics kontrollbehov som användarens produktivitet.

Det är en dålig affär för förtroendet.

Twitch tvingas ge efter — men halvvägs

På en annan front visar Amazon-ägda Twitch att tryck faktiskt fungerar. Plattformen inför nu möjligheten för skapare att aktivt välja bort att deras livesändningar och övrigt innehåll används för att träna bolagets AI-modeller, enligt Breakit.

Det är ett framsteg. Men — och det är ett viktigt men — systemet bygger på avanmälan, inte anmälan. Grundinställningen är att innehållet får användas. Det innebär att miljontals skapare, som aldrig läser de finstilta villkoren, omedvetet fortsätter att bidra till träningsdata de aldrig godkänt.

Rätt riktning, fel ambitionsnivå. Det vore inte märkligare om utgångspunkten var tvärtom: att innehåll inte används, om inte skaparen aktivt godkänner det. Att Twitch nådde ens hit är ett tecken på att regulatoriskt tryck och användarkritik börjar bita — men plattformarna rör sig fortfarande i snigeltakt jämfört med den takt de en gång samlade in sina träningsdata.

Metas glasögon — osynlig övervakning i det offentliga rummet

Så till den mest oroande nyheten denna vecka. Den tyska organisationen Hate Aid har polisanmält Meta och ett antal återförsäljare — bland andra Fielmann, Apollo-Optik och Media Markt — med hänvisning till att Metas smarta AI-glasögon, i synnerhet modellen Rayban Meta Wayfarer, strider mot tysk lagstiftning om personlig integritet, rapporterar Computer Sweden.

Den tyska lagen förbjuder försäljning av kommunikationsutrustning konstruerad för att i smyg spela in människor. Hate Aid menar att glasögonen faller under just den kategorin.

Detta är inte en abstrakt rättighetsdebatt. Det handlar om att vem som helst kan gå runt i en affär, på ett torg eller på ett café och filma omgivningen utan att någon reagerar — för glasögon ser ut som glasögon. Till skillnad från en mobiltelefon, som de flesta känner igen när den riktas mot dem, är smarta glasögon i praktiken osynlig inspelningsutrustning.

Hur tyska myndigheter väljer att hantera anmälan kan komma att sätta ett viktigt rättsligt prejudikat för hela EU-marknaden.

Tre händelser, ett mönster

Det som förenar Anthropics vattenstämplar, Twitchs halvhjärtade eftergift och Metas glasögon är detsamma: AI-bolagen har en inbyggd tendens att sätta sina egna intressen — kontroll, datainhämtning, marknadsexpansion — före användarnas rättigheter.

Det är inte ondska. Det är affärslogik utan tillräckliga motverkande krafter. Och det är exakt därför reglering, civilsamhälle och ett kritiskt användarsamhälle spelar en så viktig roll just nu.