Domstol ger Pentagon rätt mot Anthropic – hemliga AI-system väcker juridiska tvister

Rättsliga tvister om AI-transparens eskalerar

AI-branschen befinner sig mitt i en transparenskris där grundläggande frågor om öppenhet och ansvarsutkrävande kommit i fokus. Den senaste veckan har präglats av flera uppmärksammade konflikter som visar på växande spänningar mellan innovation, säkerhet och allmänhetens rätt till insyn.

En federal domare stoppade Pentagon från att märka AI-företaget Anthropic som en säkerhetsrisk i leverantörskedjan, enligt MIT Technology Review. Beslutet innebär att amerikanska myndigheter kan fortsätta använda företagets AI-tjänster. Konflikten eskalerade onödigt eftersom regeringen förbigick befintliga processer och istället eldade på tvisten via sociala medier – ett sätt att hantera komplexa AI-frågor som knappast bygger förtroende.

Parallellt med Pentagon-tvisten har rättighetsorganisationen Electronic Frontier Foundation stämt den amerikanska sjukvårdsmyndigheten CMS över användningen av AI för att bedöma patienters vårdansökningar. Organisationen kräver insyn i det så kallade WISeR-systemet som använder artificiell intelligens för att granska förhandsgodkännanden av vård, rapporterar Fierce Healthcare.

"Att låta en algoritm fatta beslut om behandling kan skapa oberättigade – och till och med diskriminerande – förseningar eller avslag av nödvändig sjukvård", förklarar Kit Walsh, EFF:s chef för AI och juridiska projekt.

Särskilt problematisk är programmets ekonomiska struktur där leverantörer får betalt delvis baserat på hur mycket vård de nekar – upp till 20 procent av ersättningen kan kopplas till avslagsfrekvens. Detta skapar perversa incitament som direkt motverkar patienternas intressen.

Utvecklargemenskapen säger stopp

Transparensproblemet sträcker sig även till utvecklarverktyg. Github tvingades hastigt dra tillbaka en Copilot-funktion efter hård kritik från utvecklargemenskapen, enligt Computer Sweden. Funktionen hade börjat automatiskt infoga reklamliknande "tips" i utvecklares pull requests, inklusive rekommendationer för externa verktyg som Raycast.

Problemet förvärrades av att systemet kunde påverka pull requests som Copilot inte ens skapat, så länge AI-verktyget bara nämndes i diskussionstråden. Utvecklare fick således oönskade kommersiella meddelanden utan att aktivt ha använt funktionen – ett tydligt övertramp som undergrävde förtroendet.

Github medgav att implementeringen var felaktig och stängde av funktionen helt. Incidenten illustrerar utmaningarna med att integrera AI-funktioner i professionella verktyg utan att förlora användarnas förtroende.

Systemiska utvärderingsproblem

Bakom transparenskrisen ligger djupare strukturella problem med hur vi bedömer AI-system. Nuvarande utvärderingsmetoder misslyckas med att förutsäga verklig prestanda, vilket leder till stora kostnader och förlorat förtroende, enligt MIT Technology Review.

Ett tydligt exempel kommer från sjukvården där FDA-godkända AI-modeller som teoretiskt läser medicinska skanningar snabbare än experter i praktiken ofta försenar arbetet. Anledningen är att medicinska beslut fattas av tvärvetenskapliga team över tid, inte av enskilda experter i isolerade testsituationer.

Kalifornier har samtidigt trotsat federala direktiv genom att införa nya AI-regler som kräver extra säkerhetsåtgärder för företag som söker statliga kontrakt – ytterligare ett tecken på fragmentering inom AI-regleringen.

Marknadens reaktion

Trots regulatoriska utmaningar fortsätter AI-expansionen inom hälsosektorn. Enbart under senaste månaderna har Microsoft, Amazon och OpenAI alla lanserat medicinska chatbottar för att möta efterfrågan från människor som har svårt att få tillgång till råd genom befintliga vårdsystem.

Experter varnar dock för att verktygen genomgår alltför lite extern utvärdering innan de släpps till allmänheten – ett mönster som återspeglar branschens tendens att prioritera snabb marknadsintroduktion framför grundlig säkerhetsprövning.