Du tror att du läser en grannes råd – i själva verket är det en marknadsföringsrobot

När maskinen låtsas vara din granne

Föreställ dig att du söker råd om hudvård i ett Reddit-forum. Du ställer en enkel fråga, svaren börjar trilla in – och ett av dem, från kontot Primary-Taro4254, verkar både detaljerat och genuint. Användaren räknar upp ingredienskoncentrationer, certifieringar och personliga erfarenheter av ett märke vid namn Honeydew Labs. Övertygande, eller hur?

Problem: det är inte en människa. Det är en marknadsföringsrobot, troligen driven av generativ AI, som planterar samma rekommendation i dussintals orelaterade forum. Och det är just den typen av systematisk, skalanpassad manipulation som The Verge nu rapporterar har blivit ett växande problem på Reddit.

När andra användare grävde i kontots historik och hittade ett mönster av identiska produktlovsord, slog forumets moderatorer till omedelbart. Kontot stängdes av och alla inlägg från varumärket skickades till granskning. Men för varje konto som identifieras och stängs, kan tio nya skapas på några minuter. Det är en asymmetrisk kamp.

Varför just Reddit – och varför just nu?

Det är ingen slump att Reddit har hamnat i skottlinjen. Plattformen gick under lång tid under radarn som ett något stökigt hörn av internet, men under de senaste åren har något förändrats fundamentalt. Användare lärde sig tidigt att lägga till ordet "reddit" i sina sökmotorfrågor för att undvika det hav av sökmotoroptimerat skräpinnehåll som dominerade de vanliga sökresultaten. Googles egna algoritmer noterade beteendet och började lyfta fram Reddit-trådar högre i sökresultaten.

Så långt allt logiskt. Men nästa steg är det som verkligen förändrar spelplanen: AI-chattjänster som ChatGPT, Perplexity och Googles Gemini citerar nu Reddit oftare än någon nyhetssajt, vetenskaplig databas eller ens Wikipedia, enligt uppgifter från analysföretag som The Verge hänvisar till. Reddit har med andra ord gått från att vara ett diskussionsforum till att bli en primär källa för AI-system som används av hundratals miljoner människor dagligen.

Det gör varje lyckad spaminjektion på Reddit till något mer än plattformsstörning – det blir en förorening av det informationsflöde som AI-modeller sedan matar vidare till världen.

En affärsmöjlighet som blivit ett vapen

Jag vill vara tydlig: det är inte AI i sig som är problemet här. Det är en specifik och opportunistisk användning av tekniken – att industrialisera vilseledande marknadsföring på ett sätt som var praktiskt omöjligt för bara några år sedan.

Tidigare krävde koordinerade kampanjer med fejkade recensioner mänsklig arbetskraft, och det satte naturliga gränser för skalan. Generativ AI har raderat de gränserna. En enda person med tillgång till ett språkmodellsverktyg kan nu skapa hundratals trovärdiga, varierade och kontextanpassade inlägg per timme – anpassade till varje forums ton, vokabulär och ämne.

Det är affärsutveckling tillämpat på manipulation, och det fungerar just för att det är så välgjort.

Moderatorer i frontlinjen – men utan rätt verktyg

Reddit-gemenskapernas frivilliga moderatorer har länge fungerat som internets obetalda väktare. De känner sina forum, vet hur äkta diskussioner låter och reagerar snabbt på avvikelser. Men de är rustade för en värld av mänskliga trolls och halvhjärtade spamkonton – inte för AI-genererade aktörer som är grammatiskt korrekta, kontextuellt relevanta och producerade i industriell skala.

Plattformen behöver ge sina moderatorer tillgång till bättre detektionsverktyg, gärna AI-drivna sådana. Det är en av de genuint spännande tillämpningarna: att använda samma typ av teknik för att identifiera och filtrera bort missbruk. Men det kräver att Reddit investerar, prioriterar och tar problemet på allvar – inte bara reagerar reaktivt när skandaler blossar upp.

Detta är inte ett problem som försvinner av sig självt. Det eskalerar.