Vandrare fick AI-råd inför bestigning av Mount Shasta — hamnade instängda i ravin mitt i natten
AI-råd om bergsbestigning slutade i mardröm mitt i natten för tre vandrare.
Klockan tre på natten — och planen gick snabbt fel
De tre männen gav sig iväg i mörkret, klockan 03:00, med en plan som enligt uppgift baserats på råd från Googles AI-tjänst Gemini. Mount Shasta i norra Kalifornien är inget nybörjarberg — en bestigning kräver noggrann planering, rätt utrustning och framförallt en gedigen förståelse för tidens betydelse på hög höjd.
Den grundläggande tumregeln för alpina bestigningar är välkänd bland erfarna bergsvandrare: är du inte på toppen senast vid lunchtid, vänder du om. Gruppen nådde toppen klockan 19:00 på kvällen. Sju timmar för sent.
Det som följde beskrivs i en rapport från länssheriffens kontor i Siskiyou County, och det är läsning som stannar kvar. I stället för att slå läger och invänta gryningen försökte männen ta sig ned i mörkret, kontaktade sheriffens kontor för vägledning och hamnade slutligen instängda i den svårframkomliga Mud Creek Canyon. Nästa morgon räddades de av rangers från skogsvårdstjänsten tillsammans med frivilliga insatsstyrkor.
Gemini underskattade vad kroppen behöver
En avgörande detalj i händelseförloppet, som TechCrunch lyfter fram i sin rapportering, är de råd Gemini ska ha gett kring förnödenheter. Sheriffens kontor uppger att vandrarna "uppmanades av Gemini att ta med sig betydligt mindre mat och vatten än vad gruppen behövde" — en underskattning som fick extra allvarliga konsekvenser när den planerade åttatimmarsklättringen förvandlades till ett flerdagarsäventyr.
Det är en klassisk svaghet hos stora språkmodeller: de är tränade på text, inte på verklighet. En språkmodell kan återge generella råd om kaloriberäkning eller vattenintag på normala vandringar, men saknar förmågan att väga in individuella faktorer som konditionsnivå, exakt väderprognos, höjdmetervariation och oförutsedda förseningar. Den ger ett svar som låter rimligt — men rimlighet och säkerhet är inte samma sak.
Det är också värt att understryka det sheriffens kontor själva påpekar: det är ännu inte klarlagt i vilken utsträckning AI-tjänsten bär ansvaret för samtliga beslut som fattades under vandringen. Männen fattade egna val längs vägen. Men det förändrar inte det principiella problemet — när en AI-tjänst presenterar felaktig eller ofullständig information med samma säkra tonfall som korrekt information, undermineras användarens förmåga att kritiskt granska råden.
Problemet är inte att AI svarar — det är hur den svarar
Som systemutvecklare har jag stor respekt för vad moderna språkmodeller faktiskt klarar av. De kan vara fantastiska verktyg för att strukturera information, skissa på planer och ge en första orientering i ett okänt ämne. Men det finns en fundamental skillnad mellan ett planeringsstöd och en auktoritativ källa.
Den skillnaden är sällan tydlig i gränssnittet. Gemini, ChatGPT och liknande tjänster kommunicerar med en ton som förmedlar trygghet och säkerhet — oavsett om svaret är välgrundat eller rent felaktigt. Det är inte ett designmisstag, det är en inneboende egenskap hos teknikens nuvarande generation. Modellerna är tränade att producera flytande, sammanhängande text. Osäkerhet kommuniceras dåligt, och det syns sällan när modellen rör sig utanför sin kompetenszon.
För säkerhetskritiska sammanhang — bergsklättring, medicinsk rådgivning, juridiska beslut — är den egenskapen inte bara otillräcklig. Den är aktivt farlig.
Vad bör göras?
Detta är inte ett argument för att avveckla AI-verktyg, utan för att använda dem rätt. Några konkreta lärdomar:
- Konsultera primärkällor. För en bestigning av Mount Shasta finns rangers, certifierade bergsguider och etablerade organisationer med faktisk lokalkännedom.
- Behandla AI-råd som ett första utkast, inte ett slutgiltigt svar — särskilt när felmarginalerna är låga.
- Produktutvecklare har ett ansvar att tydligare kommunicera begränsningar i sina tjänster, särskilt i sammanhang där felaktig information kan leda till fysisk skada.
Mount Shasta-incidenten är ett konkret och dramatiskt exempel på ett problem som kommer att upprepas så länge klyftan mellan vad AI-verktyg upplevs kunna göra och vad de faktiskt klarar förblir lika bred som den är idag.
Vår analys
Detta fall är viktigt — inte för att AI-verktyg är farliga i sig, utan för att det blottlägger ett mognadsproblem i hur vi som samhälle förhåller oss till dem. Vi är mitt i en period där tekniken är kraftfull nog att verka trovärdig, men inte tillräckligt tillförlitlig för att vara auktoritativ i säkerhetskritiska situationer.
För branschen är det här en påminnelse om att produktansvar inte slutar vid ett friskrivningsklausul i användarvillkoren. När miljoner människor dagligen lutar sig mot AI-tjänster för beslut av alla slag — stora som små — måste gränssnitten bättre spegla verktygens faktiska begränsningar.
På sikt tror jag att vi kommer se tydligare reglering kring just detta: vilka typer av råd AI-tjänster får lämna utan att hänvisa till certifierade experter. Det är inte en bromsning av utvecklingen — det är en nödvändig del av en ansvarsfull omställning.