Waymos medvd varnar techbranschen: 'Move fast and break things' hör inte hemma i självkörande bilar

När AI lämnar skärmen och möter verkligheten

Det finns ett mantrat som Silicon Valley har levt efter i decennier: rör dig snabbt och låt saker gå sönder. Det har fungerat lysande för appar, plattformar och sociala nätverk. En buggig version 1.0 kan lappas ihop med en uppdatering, och användarna glömmer snart bort de irriterande felen.

Men vad händer när AI-systemet inte kör på en server – utan kör en bil med passagerare i?

Det är exakt den frågan som Waymos medvd Dmitri Dolgov ställde i en intervju med riskkapitalbolaget Y Combinator tidigare denna vecka, enligt CleanTechnica. Och hans svar är lika tydligt som det är ovanligt i en bransch som sällan ifrågasätter sina egna dogmer: den filosofin hör inte hemma inom fysisk AI.

– Det finns helt enkelt ingen ångra-knapp och ingen möjlighet att försöka igen, konstaterar Dolgov.

Två decennier av metodisk försiktighet

Det är lätt att avfärda sådana ord som fromma önskningar från ett bolag som har råd att vara försiktigt. Men Waymos historia ger dem substans. Under tjugo år har bolaget – ursprungligen ett projekt inom Google – arbetat steg för steg med sin självkörande taxiverksamhet. I dag loggar de miljontals mil av helt automatiserade resor, utan säkerhetsförare bakom ratten.

Detta är inte resultatet av snabba pivoterar eller högrisklanseringar. Det är resultatet av en process där säkerhet har byggts in i grunden – i modeller, metoder och systemarkitektur – snarare än klistrats på i efterhand när problemen redan uppstått.

Dolgovs uppmaning till resten av branschen sammanfattas elegant: rör er snabbt, men leverera säkert. Det är inte en uppmaning till långsamhet – det är en uppmaning till ansvar.

Ett utspel med undertext

Att Dolgov väljer att lyfta frågan offentligt i ett forum som Y Combinator – riskkapitalismens epicentrum och hemvist för just den snabbhetskultur han kritiserar – är knappast en tillfällighet. Det antyder att han ser oroande tendenser i hur andra aktörer inom fysisk AI hanterar säkerhetsaspekterna.

Och han är inte ensam om den oron. De senaste åren har vi sett en våg av ambitiösa aktörer inom självkörande fordon, leveransrobotar och industriell automation som alla tävlar om att nå marknaden först. Investerare belönar hastighet. Medierna hyllar de djärva. Den som rör sig varsamt riskerar att framstå som feg.

Men konsekvenserna av misslyckanden inom fysisk AI är av en fundamentalt annan karaktär än en app som kraschar. Vi talar om trafikolyckor, industriskador, infrastrukturhaverier – händelser som inte bara drabbar användare utan kan forma den politiska och regulatoriska miljön för hela branschen i många år framöver.

Ett enda allvarligt tillbud kan sätta tillbaka förtroendet för självkörande fordon med ett decennium. Det är inte ett hypotetiskt resonemang – det är precis vad som skett tidigare inom branschen när företag har rusat fram utan tillräcklig hänsyn.

Frihet kräver förtroende

Jag är genuint entusiastisk inför vad fysisk AI kan åstadkomma. Självkörande fordon kan rädda tiotusentals liv varje år – de flesta trafikolyckor orsakas av mänskliga misstag. Autonoma system kan avlasta människor från farliga och monotona arbetsuppgifter. Potentialen är enorm.

Men den potentialen realiseras bara om samhället är berett att ge tekniken utrymme att växa. Och det förtroendet tjänas in – det kan inte forceras fram genom att helt enkelt köra snabbare än regleringen hinner med.

Dolgov sätter fingret på en av de viktigaste strategiska frågorna för AI-branschen just nu: hur balanserar vi innovation med ansvar på ett sätt som faktiskt håller på lång sikt? Det är inte en fråga om att välja mellan framsteg och säkerhet. Det är en fråga om att förstå att hållbara framsteg kräver säkerhet som fundament.