Forskning och varningsinstitut slår larm: AI-hajpen döljer klimatpåverkan, systemrisker och risker med automatiserade kreditmodeller

Hajpen har ett pris – och det syns sällan i pressreleaserna

Jag är genuint övertygad om att AI är en av de mest transformativa krafterna i vår livstid. Men just därför tar jag illa vid mig när branschen låter entusiasmen löpa iväg snabbare än eftertanken. Den senaste veckan har ett antal tunga rapporter och forskningsresultat landat nästan samtidigt – och tillsammans målar de upp en bild som varje affärsledare, beslutsfattare och teknikansvarig borde ta på djupaste allvar.

När it-chefen tystnar

Låt oss börja inifrån organisationerna. Computer Sweden lyfter begreppet hypegineering – det ögonblick då AI-marknadsföringen blir mer kreativ än tekniken själv. Det verkligt oroande är inte att leverantörer överdrivet säljer in sina produkter; det har de alltid gjort. Det oroande är att hajpen nu ofta kommer uppifrån, från verkställande direktörer och styrelseledamöter med stor entusiasm men begränsad teknisk förståelse. Resultatet? It-chefer som väljer taktisk tystnad framför obehagliga sanningar. En säkerhetsbarriär som ett autonomt system kan bortse från är inte en säkerhetsbarriär – det är ett vänligt förslag. Men vem säger det högt när chefen är övertygad om motsatsen?

Klimatparadoxen ingen vill prata om

Samtidigt rapporterar Computer Sweden om en ny forskningsstudie med en slutsats som förtjänar att upprepas tills den sjunker in: AI kan driva upp de globala koldioxidutsläppen med upp till 1,8 miljarder ton per år. Mekanismen är inte de servrar som driver ChatGPT. Det är subtilare och farligare – AI gör det lönsamt att utvinna olja och gas från fyndigheter som tidigare ansetts otillgängliga. Samma teknologi som optimerar vindkraft kan alltså fungera som en hävstång för den fossila industrin. Utan tydliga styrmedel och reglering är teknikoptimism ensam inte tillräckligt.

Bankerna bygger ett nytt systemfel

Kreditvärderingsinstitutet Moody's varnar nu för att banker koncentrerar sin tekniska infrastruktur till ett fåtal dominerande AI-leverantörer. Det är en koncentrationsrisk som påminner om debatten kring molntjänster – men potentiellt farligare, eftersom AI inte bara är infrastruktur utan är djupt inbäddad i affärskritiska beslutsprocesser som kreditbedömning, bedrägeribekämpning och kundservice. Om en enda stor leverantör drabbas av driftstörningar eller ett tillsynsingripande kan effekterna sprida sig som ringar på vattnet genom hela det finansiella systemet.

Rättvisa kan inte uppnås genom att dölja data

En studie publicerad på arXiv, baserad på 1,4 miljoner lån från LendingClub, visar att automatiserade kreditmodeller systematiskt missgynnar låntagare med låg inkomst. Skillnaden i hur väl modellen identifierade verkliga betalningsinställelser mellan hög- och låginkomsttagare uppgick till hela 16,86 procentenheter. Det mest slående? En stor del av snedvridningen kvarstod även efter att inkomst och räntesatser togs bort ur modellen. Strukturella variabler som lånebelopp och bostadsförhållanden tog vid som indirekta ersättare. Slutsatsen är kristallklar: det räcker inte att dölja känsliga uppgifter för att uppnå rättvisa AI-system.

Säkerhet och integritet under press

Till bilden hör också att forskare vid universitetet i Tübingen, enligt Wired, lyckats extrahera dolda tankegångar ur ledande AI-modeller från OpenAI, Anthropic och Google – tankegångar som var krypterade och avsedda att hållas hemliga. Innan sårbarheterna åtgärdades kunde känslig information som lösenord och API-nycklar läcka ut. Och The Verge rapporterar att forskare med hjälp av allmänt tillgängliga AI-modeller identifierade en kritisk säkerhetslucka i Zoom på en enda dag – ett arbete som tidigare krävt välfinansierade statliga hackargrupper med månader på sig. AI demokratiserar alltså inte bara det goda, utan även förmågan att göra skada.

I den känsligaste av miljöer – domstolarna – har nu både England och New York förbjudit Metas smarta glasögon, rapporterar Breakit. Rätten till en konfidentiell rättsprocess väger tyngre än rätten att bära sin teknikpryl. Det är ett litet men tydligt tecken på att samhället börjar dra gränser.

Möjligheterna är verkliga – men det är problemen också

Jag tror fortfarande på AI:s transformativa kraft. Men den verkliga mognadsfasen för en teknologi börjar inte när entusiasmen når sin topp – den börjar när vi är beredda att ställa de svåra frågorna utan att tappa modet. Klimateffekter, systemrisker, algoritmisk orättvisa och säkerhetssårbarheter är inte argument mot AI. De är kartan över det arbete som återstår.