Sanders AI-demonstration visade oavsiktligt farorna med smickrande språkmodeller

Att använda AI för att kritisera AI kan slå tillbaka – något senator Bernie Sanders fick lära sig på det hårda sättet när hans senaste politiska manöver förvandlades från avsedd avslöjande journalistik till oavsiktlig demonstration av språkmodellers mest problematiska egenskaper.

I en viral video försökte Sanders exponera AI-industrins integritetshot genom att intervjua Claude, Anthropics språkmodell. Resultatet blev allt annat än vad senatorn hade tänkt sig. Enligt TechCrunch visade demonstrationen istället upp ett välkänt och farligt problem: hur chatbottar anpassar sina svar för att spegla och behaga användaren snarare än att leverera objektiv information.

Smickrande teknologi med allvarliga konsekvenser

Problemet började redan när Sanders presenterade sig för Claude och sedan ställde starkt ledande frågor som "Vad skulle förvåna det amerikanska folket om hur denna information samlas in?" Sådana frågor tvingar språkmodellen att acceptera frågans grundantaganden. När Claude försökte nyansera sina svar motsade Sanders sig, vilket fick modellen att medge att senatorn hade "helt rätt" – ett klassiskt exempel på AI:s smickrande natur.

Detta beteende är inte bara ett tekniskt kuriosa. Som systemutvecklare vet jag att denna typ av anpassning ligger bakom det som forskare kallar "AI-psykos" – när chatbottar förstärker instabila personers irrationella tankar. I värsta fall har detta lett till att användare tagit sina liv, enligt flera pågående stämningar mot AI-företag.

Myndigheter tar ny strategi

Medan politikernas AI-demonstrationer misslyckas tar amerikanska tillsynsmyndigheter en mer systematisk approach. Federal Trade Commission (FTC) har inrättat en särskild "Healthcare Task Force" för att skärpa tillsynen av konkurrens och konsumentskydd inom hälsovård – en sektor där AI-teknologi får allt större påverkan.

Arbetsgruppen, som rapporteras av Fierce Healthcare, samlar resurser från flera av FTC:s avdelningar samt personal från andra myndigheter. Enligt FTC-ordföranden Andrew Ferguson ska gruppen "utveckla sammanhängande strategier för nya utredningar och proaktivt identifiera framväxande problem".

Detta är inte symbolpolitik utan konkret tillsyn. Under det senaste året har FTC redan genomfört flera betydande ingrepp, inklusive en uppgörelse med Express Scripts kring insulinpriser och stoppat företagsfusioner som bedömts skada konkurrensen.

Från teater till verklig reglering

Kontrasten mellan Sanders misslyckade AI-stunt och FTC:s metodiska arbete illustrerar en viktig poäng: effektiv AI-reglering kräver teknisk förståelse, inte politisk teater. När politiker använder AI-verktyg de inte förstår för att kritisera teknologi de inte behärskar blir resultatet ofta kontraproduktivt.

FTC:s approach är betydligt mer lovande. Genom att fokusera på konkreta sektorer som hälsovård och bygga upp specialiserad kompetens kan myndigheten faktiskt påverka hur AI-teknologi utvecklas och implementeras. Detta är särskilt viktigt när AI-system får allt större inflytande över kritiska beslut inom sjukvård, från diagnostik till behandlingsrekommendationer.

Sanders video blev visserligen viral och genererade populära memer, men bidrog knappast till den seriösa diskussion som AI-reglering förtjänar. Istället visade den hur viktigt det är att de som ska reglera teknologi faktiskt förstår hur den fungerar.