AI-formulerade inlagor översvämmar domstolarna — men vem bär ansvaret när råden är fel?

Regleringsvågen slår in — men är den tillräcklig?

Någonting fundamentalt håller på att förändras i förhållandet mellan AI och rättssamhället. Inte om fem år. Nu.

Enligt en ny studie som granskade 4,5 miljoner federala civilmål i USA steg andelen rättegångar utan juridiskt ombud från 11 procent år 2022 till nästan 17 procent år 2025, rapporterar MIT Technology Review. Antalet inlagor mer än fördubblades jämfört med nivåerna före 2023. Domare Maritza Braswell vid en federal domstol i Colorado vittnar om att hon dagligen sorterar igenom högar av AI-formulerade dokument — och att hon regelbundet stöter på påhittade rättsfall och fabricerade citat, så kallade hallucinationer, inbäddade i annars välskrivna ansökningar.

Det är en berättelse med två bottnar. Å ena sidan är det genuint demokratiserande: AI sänker tröskeln för vanliga människor att ta sig an ett rättsystem som länge varit reserverat för dem med råd att anlita advokat. Onlinegemenskaper har vuxit fram där privatpersoner delar råd om hur man för sin talan med hjälp av AI — i delstaten Vermont exploderade antalet egenmäktiga stämningar från 45 per år till mer än 1 100 under 2024. Å andra sidan vinner dessa käranden i betydligt lägre utsträckning än de med juridiskt biträde — och det förändras inte av AI-stödet.

Frågan lagstiftare nu brottas med är dubbel: Vem är ansvarig när en chattbot ger juridiskt felaktiga råd med allvarliga konsekvenser? Och vilka rättigheter och skyldigheter ska dessa digitala ombud egentligen ha?

Europa bygger vallgravar — men alla är missnöjda

På andra sidan Atlanten tar EU ett bredare grepp. EU-kommissionen presenterade nyligen sitt lagstiftningspaket Cloud and AI Development Act, med ett certifieringssystem som rangordnar digitala tjänster utifrån känslighet för utländsk påverkan, rapporterar Computer Sweden. Tanken är lovvärd — Europas digitala sårbarhet är verklig. Men reaktionerna är talande: gröna EU-parlamentariker anser att åtgärderna är för tandlösa, franska politiker att reglerna är för tillåtande mot utländska aktörer, och amerikanska teknikjättar som Amazon varnar för att paketet bygger på geografiska kriterier snarare än faktiska säkerhetsegenskaper.

När alla är missnöjda kan det ibland betyda att man hittat en rimlig kompromiss. Men lika ofta betyder det att ingen är nöjd — och att regleringen varken skapar verklig säkerhet eller verklig frihet.

Netflix europeiske innehållschef Larry Tanz varnade nyligen vid konferensen Enders TMT Leaders Live i London för att alltför fyrkantig reglering riskerar att styra vad streamingbolag faktiskt producerar — inte bara hur mycket de investerar. Enligt Tanz kan ett sådant regelverk avskräcka Netflix från att satsa på nya och okända röster och i stället kanalisera möjligheterna till stora mediebolag och riskkapitalister. Grundprincipen är enkel och rätt: AI ska vara ett verktyg för berättare, inte en regleringsparameter som snedvrider vilka berättelser som ens får chansen att bli till.

Samtidigt visar Googles beslut att låta publicister välja bort sina texter från AI-sökning — efter tryck från brittiska konkurrensmyndigheten CMA — att regleringstrycket faktiskt ger resultat, rapporterar Computer Sweden. Det är ett litet men viktigt steg mot ett mer balanserat ekosystem där mediernas överlevnad inte offras på AI-sökingens altare.

När rivaler enas — lyssna

Men den starkaste signalen den här veckan kom från The Verge: konkurrerande AI-bolag gick gemensamt ut och krävde hårdare skyddsåtgärder mot risken att deras teknik används för att ta fram biologiska vapen. Det är sällsynt att bittra konkurrenter talar med en röst — och när de gör det bör lagstiftare lyssna noga.

Oron är välgrundad. Moderna AI-system kan analysera enorma mängder vetenskaplig data och potentiellt guida illvilliga aktörer att syntetisera eller förstärka farliga biologiska ämnen — kunskaper som tidigare krävde lång specialistutbildning. Svårigheten är att forskningen inom området är nästan omöjlig att särskilja från legitim medicinsk och farmaceutisk vetenskap.

Parallellt söker det amerikanska standardiseringsinstitutet NIST nya partners till sitt omstrukturerade AI-konsortium, med fokus på testning, utvärdering och validering av AI-system — bland annat inom sjukvården, som pekas ut som en sektor med särskilt eftersatt regelefterlevnad. En av konsortiets arbetsgrupper ska specifikt ta fram metoder för att motverka desinformation och informationsläckage i stora språkmodeller.

Bitarna finns alltså på plats. Viljan börjar växa. Det som saknas är hastighet och koordination.