Nytt verktyg låter utvecklare kika in i AI-hjärnor neuron för neuron

Från alkemi till vetenskap

AI-utveckling har länge påmint mer om alkemi än exakt vetenskap. Vi tränar modeller med enorma datamängder, justerar parametrar och hoppas på bästa resultat – utan att riktigt förstå vad som händer under huven. Nu vill amerikanska Goodfire förändra det med sitt nyligt lanserade verktyg Silico.

Verktyget bygger på mekanistisk tolkning, en teknik som MIT Technology Review utsett till ett av 2026 års genombrott. Istället för att behandla AI-modeller som ogenomträngliga svarta lådor, kartlägger metoden exakt vilka neuroner och kopplingar som aktiveras när modellen utför specifika uppgifter.

"Vi såg en växande klyfta mellan hur väl modellerna förstods och hur brett de användes", säger Goodfires verkställande direktör Eric Ho enligt MIT Technology Review. "Vi tror det finns en bättre väg än att bara använda mer datorkraft och data."

Automatiserad felsökning på neuronnivå

Silico låter utvecklare zooma in på specifika delar av tränade modeller och köra kontrollerade experiment. Vill du förstå varför din språkmodell plötsligt börjar fabricera felaktig information? Med verktyget kan du spåra vilka neuroner som aktiveras när modellen skapar osanna påståenden.

Det som gör Silico särskilt kraftfullt är automatiseringen. Verktyget använder AI-agenter för att utföra mycket av det komplexa analysarbetet som tidigare krävde djup expertkunskap inom neurala nätverk. Detta öppnar upp möjligheten för fler utvecklare att förstå sina modellers inre funktioner.

Goodfire har redan demonstrerat teknikens potential genom praktiska tillämpningar. Företaget lyckades identifiera specifika neuroner i språkmodellen Qwen 3 som var kopplade till moraliska dilemman, och har använt sina tekniker för att minska modellers benägenhet att fabricera felaktig information.

Kritiska röster om ambitionsnivån

Trots den lovande tekniken finns det skeptiker. Leonard Bereska vid Amsterdams universitet, som forskar inom området, ser verktyget som användbart men ifrågasätter Goodfires högre ambitioner, enligt MIT Technology Review.

Kritiken pekar på en viktig spänning inom området: skillnaden mellan att förstå enskilda komponenter och att förstå systemet som helhet. Att identifiera vad en specifik neuron gör är imponerande, men språkmodeller består av miljarder parametrar som samverkar på komplexa sätt.

Transparent AI som konkurrensfördel

Oavsett tekniska begränsningar representerar Silico en viktig utveckling mot mer genomskinlig AI. För företag som bygger kritiska system – inom sjukvård, finans eller juridik – kan möjligheten att förstå och felsöka AI-beteende bli en avgörande konkurrensfördel.

Verktyget kommer också väl till pass när regelverken för AI skärps. EU:s AI-förordning och liknande regleringar världen över kräver ökad transparens i AI-system, särskilt för högriskapplikationer.

Goodfires lansering signalerar en bredare trend där AI-branschen mognar från "flytta snabbt och krossa saker"-mentaliteten till mer metodisk, vetenskaplig utveckling. Det är en välkommen förändring för alla som arbetar med att bygga pålitliga AI-system.