AI designar nya virus i laboratoriet och hjälper för mycket i klassrummet – vad vet vi egentligen om konsekvenserna?

När AI börjar skriva livets kod

Forskare vid Stanford University och Arc Institute har gjort något som för bara några år sedan hade känts som science fiction. Enligt Wired har de låtit ett AI-system konstruera 300 konstgjorda genomsekvenser – och av dessa visade sig 16 ge upphov till fullt fungerande bakteriofager, det vill säga virus som angriper bakterier men är helt ofarliga för människor. Resultaten publicerades nyligen i den vetenskapliga tidskriften Science.

Det som gör detta verkligt anmärkningsvärt är inte bara att det fungerade – utan hur det fungerade. AI-systemet, byggt på grundmodellerna Evo 1 och Evo 2 tränade på miljontals genom från djur, växter och mikrober, kopierade inte befintliga virus. Det skapade något genuint nytt. Som referenspunkt använde forskarteamet den välkända bakteriofagen Phi X-174, men målet var aldrig att reproducera den – utan att använda den som vägledning för att generera helt nya genomstrukturer med förmåga att infektera samma värdorganism.

Detta öppnar en dörr som länge stått på glänt. Bakteriofager har länge ansetts vara ett lovande alternativ till antibiotika, särskilt när resistenta bakteriestammar fortsätter att sprida sig globalt. Men traditionell forskning har varit bunden till redan kända virus. Nu kan AI i princip skräddarsy biologiska verktyg från grunden – vilket är en omvälvande förflyttning i medicinsk forskning.

Det är den sortens språng som omdefinierar en hel industri.

När AI tar plats i klassrummet – och gör för mycket

Samtidigt pågår ett helt annat slags experiment, i en miljö som kanske känns mer vardaglig: skolan. Forskare vid Allen AI har enligt Hugging Face Blog utvecklat ett nytt utvärderingsramverk kallat TutorMoments, och resultaten är tankeväckande.

Problemet är inte att AI-handledare är dåliga – tvärtom. De är för bra på att hjälpa. En erfaren matematiklärare vet att den verkliga inlärningen sker i det ögonblick eleven brottas med ett problem, känner motstånd och till slut bryter igenom. Den kampen är inte ett tecken på misslyckad undervisning – den är undervisningen. AI-modeller är däremot tränade att vara hjälpsamma, vilket i praktiken innebär att de tenderar att förklara, vägleda och ge svaret – precis det som urholkar den intellektuella ansträngning som forskning kopplat till verklig förståelse.

Ramverket bygger på 462 avidentifierade utskrifter från verkliga en-till-en-handledningssessioner med amerikanska elever i årskurs 2–7. Erfarna lärare markerade de avgörande ögonblicken där handledaren tvingades välja: underlätta uppgiften, eller pressa eleven att tänka djupare? Resultatet var nedslående – när AI-modellerna enbart instruerades att "handleda väl" överhelpade de konsekvent och sällan uppmuntrade självständigt tänkande.

Två speglar av samma utmaning

Dessa två nyheter verkar vid första anblick handla om helt olika saker – biologi kontra pedagogik, laboratorium kontra klassrum. Men de speglar exakt samma grundläggande utmaning i vår tids AI-omställning: AI är fantastiskt duktigt på att optimera för det den tränats att göra, men mänskliga sammanhang kräver ofta något mer nyanserat.

I laboratoriet är det en välkommen förmåga – AI:n hittar mönster i evolutionär data som vi människor aldrig skulle kunna urskilja på egen hand. I klassrummet blir samma tendens att optimera mot hjälpsamhet en svaghet, eftersom verkligt lärande kräver att vi ibland inte får svaret serverat.

Det intressanta är att båda utmaningarna är lösbara. Stanford-forskarnas arbete visar att rätt träning och rätt referenspunkter ger remarkabla resultat. Allen AI:s TutorMoments visar att om vi identifierar de avgörande ögonblicken och ger modellerna bättre instruktioner, kan beteendet förändras.

AI är inte färdigt. Det är ett pågående samarbete mellan människa och maskin – och vi håller fortfarande på att lära oss vad det innebär.