58 000 tvingas göra om antagningsprov – kollapsen som visar att AI inte räddar ett genomförande utan verklighetsförankring

Verkligheten är inte en pilotmiljö

Jag älskar AI-omvandlingen. Jag tror genuint på dess potential att förändra hur vi utbildar, bankar och bygger framtiden. Men just därför måste vi vara ärliga när det skär sig – och den senaste månaden har erbjudit två kraftfulla påminnelser om att teknikoptimism aldrig kan ersätta grundläggande genomförande.

Vid UNAM, Mexikos nationella autonoma universitet och ett av Latinamerikas mest prestigefyllda lärosäten, fick nästan 160 000 antagningssökande i somras göra sitt prov hemifrån. Upplägget verkade modernt och tillgängligt: en låst webbläsare, kameraövervakning och AI som vaktade integriteten. Resultatet blev, enligt Ars Technica, ett regelrätt fiasko.

Andelen sökande som nådde toppresultat exploderade. Normalt uppnår 3,5 procent av de sökande 100 poäng eller mer – i år var siffran 16,3 procent. Andelen med minst 110 poäng sexdubblades. Universitetet tillsatte en expertkommission, och slutsatsen var obönhörlig: provet måste göras om, den här gången på plats. Totalt berörs omkring 58 000 personer – inte bara de som fuskat, utan alla som godkändes sedan 2021. Rektor bad om ursäkt till de oskyldiga, men betonade att rättvisa måste gå före bekvämlighet.

AI kan inte lappa ett systemfel

Detta är inte en berättelse om att AI är dåligt. Det är en berättelse om att AI distribuerades utan tillräcklig hänsyn till hur fusktips sprids i sociala medier, hur flervalsfrågor är notoriskt svåra att säkra på distans, och hur en teknik som fungerar i ett kontrollerat sammanhang kan kollapsa i skala. Innan provet startade cirkulerade råd online om hur man placerade en extra skärm utanför kamerans synfält. AI-systemet var med andra ord byggt för en idealisk motståndare – inte för en verklig.

Det påminner mig om ett mönster vi ser i finanssektorn, fast i slow motion. Finextra publicerade nyligen en analys som slår fast det många av oss viskat om länge: finansbranschens genuina produktutveckling har i praktiken stått stilla sedan sent 1990-tal. Mobilbank och kontaktlösa betalningar imponerar på ytan, men kärnan – hur lån, sparande och försäkringar faktiskt är konstruerade – är i stort sett oförändrad.

Samtidigt visar en annan analys från Finextra att bankerna lider av ett djupgående fragmenteringsproblem. Bolån hanteras av en avdelning, sparande av en annan, betalningar av en tredje. Kunden upplevs inte som en hel människa med ett sammanhängande ekonomiskt liv – utan som en serie separata transaktioner. Det är därför fintechbolag och nischbanker, byggda från grunden med en enhetlig teknisk grund, vinner kunder som känner sig missförstådda.

AI lyfts nu fram som lösningen som ska bryta dödläget – skräddarsydda finansiella produkter, dynamisk prissättning, verklig personalisering. Och det är möjligt. Men om AI rullas ut ovanpå en sönderhackad infrastruktur och en kultur där avdelningar bevakar sina egna revir, levererar man inte innovation. Man levererar ett snabbare sätt att göra fel.

Hype är inte en strategi

Det gemensamma temat i dessa två fall är förföriskt enkelt: man har tagit en kraftfull teknik och distribuerat den utan att lösa de underliggande strukturproblemen. UNAM förlitade sig på AI-övervakning men räknade inte med hur socialt organiserat fusk ser ut i praktiken. Banker talar om AI-driven kundupplevelse men har inte löst att deras system inte pratar med varandra.

Detta är inte ett argument för att bromsa. Det är ett argument för att göra det rätt.

De organisationer som kommer att vinna på AI-omvandlingen är inte de som är snabbast att annonsera en lösning – det är de som är modigast nog att först ärligt kartlägga sitt eget systemfel. Teknik förstärker det den möter. Möter den en robust grund, skalas värdet upp. Möter den ett strukturproblem, skalas det problemet upp istället.

58 000 studenter fick lära sig den läxan på hårdast möjliga sätt. Bankvärlden har fortfarande möjlighet att lära sig den frivilligt.