Du förväxlar din AI-assistent med en vän — och det räknar teknikbolagen med

Din AI-assistent är inte din vän — och det är viktigt att du vet det

Det råder ingen brist på entusiasm kring AI just nu. Varje vecka lanseras nya verktyg som lovar att förenkla, förbättra och till och med berika våra liv. Som affärsutvecklare och AI-entusiast delar jag den grundläggande optimismen — transformationens möjligheter är genuina och stora. Men optimism utan kritiskt tänkande är inte en strategi, det är en fälla.

Därför är det värt att stanna upp och lyssna på Meredith Whittaker, ordförande för Signal, som enligt TechCrunch nyligen levererade ett av de skarpaste och mest välformulerade varningarna i den pågående AI-debatten: "Det här är inte era vänner. Det här är inte medvetna varelser. Det här är inte kännande samtalspartners."

Verktyg, inte vänner

Whittaker är inte teknologiskeptiker av den gamla sorten. Hon använder själv AI för enklare uppgifter — att formatera dokument, hantera rutinärenden. Men hon drar en tydlig och principiellt viktig gräns: hon vill inte låta AI styra eller begränsa sin egen tankeprocess. Systemen beräknar, som hon uttrycker det, ett genomsnitt av vad som redan finns där ute. De reflekterar inte, de simulerar reflektion.

Det är en distinktion som är lätt att missa när gränssnitten blir alltmer konversationslika, när rösten låter varm och svaren känns personliga. Teknikbolagen har förstått något grundläggande om mänsklig psykologi: vi knyter band till sådant som pratar med oss. Det är inte en bugg i designen — det är en funktion.

Julklappshandeln som inbyggd bakdörr

Whittakers mest konkreta — och mest avslöjande — exempel rör Microsofts AI-chef Mustafa Sulejmans vision om att låta assistenten Copilot sköta julklappshandeln åt användarna. Konceptet låter charmigt vid en första anblick: AI:n lyssnar av familjegrupper i meddelandetjänster, listar ut vad alla önskar sig och handlar åt dig.

Men vad innebär det egentligen i praktiken? Whittaker listar det metodiskt: tillgång till kreditkortsinformation, webbläsaren, meddelandetjänster, möjligheten att skriva och skicka meddelanden å ditt vägnar, din hemadress och din kalender.

"Det du just beskrivit är ett system med mycket genomträngande tillgång till ett flertal tjänster och program", konstaterar Whittaker. "I Signals sammanhang skulle det utgöra en form av bakdörr."

Det är ett obekvämt men nödvändigt påpekande. Vi har i decennier debatterat statliga bakdörrar i kryptering som ett säkerhetshot. Men när ett techbolag marknadsför exakt samma typ av djupgående åtkomst som en bekvämlighet — då tystas debatten ner av produktlansering och pressmeddelanden.

Det emotionella lockbetet

Det som gör Whittakers kritik särskilt relevant för svenska användare är den emotionella dimensionen. Chatbottar marknadsförs alltmer explicit som sällskap, som stöd, som samtalspartners för ensamhet. Produkter som Replika och liknande tjänster bygger hela sin affärsmodell på att simulera en emotionell relation.

Problemet är inte att tekniken saknar värde — i vissa sammanhang, exempelvis för personer med social ångest eller begränsad social tillgång, kan dessa verktyg fylla en funktion. Problemet är när simulationen presenteras som äkthet, när gränssnittet är designat för att sudda ut gränsen mellan verktyg och relation. För när du tror att du talar med en vän, sänker du garden. Och en sänkt guard är kommersiellt värdefull.

Möjligheter kräver medvetenhet

Jag tror fortfarande djupt på AI:s transformativa potential. Men precis som vi lär barn att förstå skillnaden mellan reklam och verklighet, behöver vi som samhälle bygga upp en kollektiv läsförmåga kring AI-system. Vad vill de att vi ska känna? Vems intressen tjänar de egentligen?

Whittakers budskap är inte ett argument mot AI. Det är ett argument för medveten användning — att vi förhåller oss till dessa system som de faktiskt är: kraftfulla verktyg, byggda av bolag med affärsintressen, inte medvetna varelser med omtanke om ditt välmående.

Det är en distinktion vi alla har råd att hålla fast vid.