Google hålls ansvarigt för AI-lögner i tysk domstol – kan påverka regleringen i hela Europa
Tysk domstol sätter prejudikat: Google ansvarigt när AI-svar sprider lögner om företag.
När AI:n hittar på – vem bär ansvaret?
Det är en fråga som hängt i luften sedan AI-genererade söksammanfattningar på allvar slog igenom. Nu har en tysk domstol gett ett tydligt svar: det är Google.
Enligt Ars Technica handlade målet om två tyska förlag som upptäckte att Googles AI Overviews felaktigt kopplat dem till bedrägerier och suspekta affärsmetoder. Verktyget hade på eget initiativ formulerat påståenden om att företagen "är kända för tvivelaktiga affärsmetoder och uppfattas ofta som ett bedrägeri" – formuleringar som inte existerade i de faktiska sökresultaten, utan var produkter av AI-verktygets egna tolkningar. Förlagen begärde rättelse. Google vidtog inga åtgärder. Domstolen drog sin slutsats.
En principiellt viktig gränsdragning
Det som gör det här avgörandet så strategiskt intressant är inte bara utgången, utan logiken bakom det. Domstolen avvisade Googles argument om att användare bör förstå att AI-genererat innehåll inte alltid är tillförlitligt. Det är ett resonemang vi hört förut – och det håller tydligen inte i rätten.
Kärnfrågan, som domstolen lyfte fram, är den strukturella skillnaden mellan traditionell sökning och AI-sökning. En klassisk sökmotor presenterar länkar till andras innehåll. AI Overviews gör något fundamentalt annorlunda: den formulerar egna, självständiga påståenden baserade på verktygets egna tolkningar av källmaterialet. Det innebär att bara Google kan rätta till felen – och när företaget väljer att inte göra det, måste det bära ansvaret.
Därmed faller argumentet om neutralitet. Google är inte längre en passiv förmedlare av information. Det är en aktiv avsändare.
Domstolen gick ännu längre i sitt resonemang och lyfte fram något som bör få hela branschen att tänka till: AI-sökning är ingen nödvändig funktion. Sökmotorer har historiskt åtnjutit ett visst skydd mot direktansvar just för att sorteringen av information ansetts oundviklig. Men att generera egna sammanfattningar och påståenden med hjälp av AI – det är ett aktivt val, inte en teknisk nödvändighet.
Konsekvenser bortom Tyskland
Det här avgörandet kommer inte att stanna vid den tyska gränsen. EU:s regelverk – inte minst AI-förordningen och det digitala tjänstedirektivet – skapar en rättslig grund för att liknande argumentation kan prövas i domstolar runt om i Europa. Vi är med stor sannolikhet inne i en period där rättspraxis kring AI-ansvar byggs upp sten för sten.
För Google, och för alla andra som rusar att integrera generativ AI i sina produkter, är signalen glasklar: att lyfta fram AI som en funktion utan att ta ägarskap för dess utfall är inte längre en hållbar strategi.
Det är också värt att notera att det här inte är ett isolerat fall. Vi har sett hur AI-genererade svar i sökning gett råd om att äta giftiga växter, felciterat levande personer och fabricerat juridiska prejudikat. Varje sådant fall lägger en ny sten i grunden för det regelverk som nu håller på att formas.
Möjligheten mitt i utmaningen
Jag vill vara tydlig: det här är inte ett argument mot AI-sökning. Det är ett argument för att göra det rätt. Och det är faktiskt goda nyheter för den som bygger seriösa AI-produkter.
När ansvaret tydliggörs skapas också förutsättningar för differentiering. De aktörer som investerar i tillförlitlighet, transparens och korrekta korrigeringsmekanismer kommer att vinna förtroendet – från användare, från annonsörer och från lagstiftare. Det är ett affärsargument, inte bara ett etiskt sådant.
Den tyska domstolen har gjort branschen en tjänst. Nu vet vi var ribban ligger.
Vår analys
Det här avgörandet är viktigare än det kan verka vid en första anblick. Det etablerar ett juridiskt tänkesätt – att den som aktivt formulerar påståenden via AI inte kan gömma sig bakom teknikens komplexitet eller användarens förväntade förståelse. Det är en logik som är direkt överförbar till i princip alla AI-produkter som genererar text om verkliga personer eller företag.
För europeiska bolag som bygger AI-lösningar är detta ett tydligt väckarklocka: bygg in rättelsemekanismer, bygg in transparens, och ta ägarskap för det er AI faktiskt säger. Det är inte en kostnad – det är en konkurrensfördel i en värld där förtroende håller på att bli den knappaste resursen.
På längre sikt tror jag vi ser början på en era där AI-ansvar kodifieras i rättspraxis, likt hur produktansvar och konsumenträtt en gång växte fram. Det är en naturlig och nödvändig mognad – och den skapar bättre AI för alla.