AI-verktyget som låtsas ha expertstöd – utan experternas vetskap

När AI-verktyg låtsas vara experter

AI-branschens trovärdighet hamnar återigen under luppen, denna gång genom ett fall som visar hur användare kan vilseledas av påstått expertstöd. Grammarlys "Expert Review"-funktion, lanserad i augusti 2025, påstår sig ge skrivråd från välkända författare och journalister – trots att ingen av dessa experter faktiskt är involverade.

Enligt rapporter från TechCrunch framställs råden som om de kommer direkt från namngivna experter, levande som döda. Funktionen kan till och med ge intryck av att komma från journalister på prestigefyllda publikationer som The Verge, Wired, Bloomberg och The New York Times.

Ett systemiskt transparensproblem

När en journalist testade verktyget fick denne råd att "lägga till etisk kontext som Casey Newton" och "ställa den större ansvarsfrågan som Timnit Gebru" – utan att någon av dessa personer varit involverad i granskningen. Det är inte bara vilseledande; det skapar en falsk känsla av validering och auktoritet.

Alex Gay, vice president på Grammarlys moderbolag Superhuman, försvarade praktiken genom att förklara att experterna nämns "eftersom deras publicerade verk är offentligt tillgängliga och ofta citerade". Grammarly klargör visserligen i sin användarguide att "referenser till experter endast är för informationssyften och indikerar inte någon koppling", men denna varning är begravd i användarvillkoren – inte synlig för den vanliga användaren.

Affärsmöjlighet eller förtroendeförstörare?

Detta fall illustrerar en kritisk spänning i AI-utvecklingen. Från ett affärsperspektiv förstår jag lockelsen – att associera sitt verktyg med respekterade experter skapar omedelbar trovärdighet och kan differentiera produkten på en konkurrensutsatt marknad. Men det kortsiktiga tänkandet riskerar att undergräva hela branschens förtroende.

Vi ser redan hur användarnas tillit till AI-verktyg påverkas när transparensen brister. När Grammarly skapar intryck av expertstöd utan verkligt sådant, skapar de inte bara juridiska risker – de undergräver användarnas förmåga att göra informerade beslut om när och hur de ska förlita sig på AI-genererat innehåll.

Vägen framåt kräver branschstandard

Det här är inte bara Grammarlys problem – det är ett symptom på en bransch som utvecklas snabbare än dess etiska ramverk. AI-företag måste inse att hållbar tillväxt kräver användartillit, och den tilliten byggs genom transparens, inte genom att skapa falska intryck av auktoritet.

Lösningen ligger inte i att begränsa innovation, utan i att etablera tydliga standarder för hur AI-verktyg kommunicerar sina kapaciteter och begränsningar. Användare har rätt att veta när de interagerar med AI, vilka källor som ligger till grund för råden, och vad som är verklig expertis kontra algoritmisk imitation.