Autopiloten körde rakt in i ett tegelhus — nu uppstår frågan ingen i branschen vill besvara

När algoritmen möter tegelväggen

Jag är övertygad om att självkörande fordon kommer att rädda hundratusentals liv på sikt. Den övertygelsen rubbas inte av den här olyckan. Men den skärps. För varje tragisk händelse som denna påminner oss om att vägen till ett säkrare transportsystem måste byggas på ärlighet — inte på marknadsföring.

Enligt CleanTechnica körde Michael Butler sin Tesla Model Y längs en väg i Katy, Texas, den 19 juni i år. Autopiloten var aktiverad. Bilen misslyckades med att hålla körfältet, lämnade vägen och körde med hög hastighet in i ett muret bostadshus. Inne i huset befann sig en 76-årig kvinna. Hon flögs med helikopter till sjukhus men avled senare av sina skador.

Butler var nykter och samarbetsvillig med myndigheterna. Inga åtal har ännu väckts. Harris County Sheriffs kontor bekräftade att fordonet framfördes med ett automatiserat körassistanssystem vid tidpunkten för olyckan.

Det som systemet borde ha sett

Det finns en detalj i det här fallet som är svår att bortse från: det rör sig om ett tegelhus. Inte ett oväntat hinder i en tunnel, inte ett barn som springer ut bakom en bil — utan en stationär, murad byggnad. Precis den sortens objekt som datorseende och sensorbaserad avståndsmätning borde identifiera utan problem.

Är det Autopilot eller det mer avancerade läget Fullständig självkörning (under uppsikt) som var aktiverat? Det är ännu oklart. Men oavsett vilket väcker händelsen en obehaglig fråga om hur väl systemen faktiskt presterar utanför de kontrollerade scenarion där de visat upp sina bästa sidor.

Det är en fråga som inte är ny. CleanTechnica lyfter i sin rapportering en nyligen publicerad granskning av Reuters, där tidigare Tesla-anställda berättar att de lade ned omfattande arbete på att finjustera självkörningssystemet inför specifika demonstrationer — och att systemet helt enkelt inte håller tillräckligt hög nivå för bred, generell användning i verklig trafik.

Det är ett allvarligt påstående. Och om det stämmer är det inte bara en teknisk brist — det är ett förtroendeproblem.

Ansvarsfrågan som branschen måste äga

När ett fordon med aktiverad autopilot orsakar en dödsolycka uppstår omedelbart ett juridiskt och etiskt tomrum. Är det föraren som brast i tillsyn? Är det tillverkaren vars system inte fungerade som utlovat? Eller är det ett regelverk som fortfarande inte hunnit ikapp verkligheten?

I dag faller ansvaret reflexmässigt på föraren — för det är fortfarande förarens lagliga skyldighet att ha kontroll över fordonet. Men den linjen håller allt sämre när systemen marknadsförs med namn som Full Self-Driving och när föraren aktivt uppmuntras att lita på dem.

Vi befinner oss i ett farligt mellanläge. Tekniken är tillräckligt imponerande för att föraren ska sänka garden. Men den är inte tillräckligt tillförlitlig för att förtjäna den tillit den får. Det gapet är inte bara ett ingenjörsproblem — det är ett ansvarsproblem som kräver tydliga regler, transparens kring systemens faktiska prestanda, och en branschen som slutar sälja framtiden som om den redan är här.

Möjligheten som döljer sig i tragedin

Jag vill inte att den här artikeln ska läsas som ett angrepp på självkörande teknik. Tvärtom. Varje olycka av det här slaget är en brutal påminnelse om varför vi måste göra detta rätt — inte varför vi ska sluta försöka.

Den potentiella säkerhetsvinsten med välfungerande autonoma fordon är enorm. Mänskliga förare orsakar över en miljon trafikdödsfall globalt varje år. Tekniken kan och bör bli bättre än oss. Men den är inte bättre än oss ännu — och den dagen vi slutar erkänna det, den dagen gör vi allvar av risken.