Är AI-misstaget egentligen ett mästerverk? Det här instrumentet säger ja

När felet blir instrumentet

Det finns en djupt rotad idé i teknikbranschen om att AI-hallucinationer är ett problem att utrota. Hela forskningsfält är dedikerade åt att göra språkmodeller mer tillförlitliga, mer faktakorrekt, mer förutsägbara. Det är förstås viktigt — ingen vill ha en medicinsk AI som hittar på diagnoser eller ett juridiskt system som fabricerar rättsfall.

Men det finns en annan fråga som sällan ställs: vad är egentligen ett AI-misstag värt, i rätt sammanhang?

Företaget Thoughtful Things har valt att ta den frågan på allvar. Deras instrument Engram, som rapporterar The Verge, beskrivs som en "fältinspelare för latent rymd" — ett redskap för att fånga och forma de glitchar och inkonsekvenser som uppstår när en AI-modell arbetar nära gränsen för sin förmåga. Resultatet är inte korrigerade svar eller polerade texter. Det är musik.

Kortslutning som konstform

Tanken påminner om en gammal tradition inom experimentell elektronik: att avsiktligt kortsluta och manipulera analoga kretsar för att framkalla oväntade, ibland kaotiska ljud. Den rörelsen — kallad circuit bending — handlade om att hitta det oförutsedda i det trasiga. Engram är i grunden samma filosofi, fast tillämpad på det digitala latenta rum som finns inuti en liten AI-modell.

Det är en elegant tanke. En AI-modell är inte en linjär maskin — den navigerar i ett mångdimensionellt sannolikhetslandskap, och ibland hamnar den på oväntade platser. Istället för att se dessa utflykturer som misslyckanden behandlar Engram dem som musikaliska händelser: mönster värda att fånga, forma och lyssna på.

Som systemutvecklare finner jag det genuint fascinerande. Vi lägger enorm möda på att kontrollera och begränsa de stokastiska egenskaperna hos stora språkmodeller — vi justerar temperaturparametrar, inför styrning och filtrerar bort avvikande utdata. Engram gör exakt det motsatta: det söker upp avvikelserna och förstärker dem.

En motrörelse inom AI-kreativiteten

Engram placerar sig i ett växande fält där konstnärer och musiker utforskar AI inte för att producera perfekta resultat, utan tvärtom för att hitta skönhet i systemens begränsningar. Det är en medveten motrörelse mot den dominerande berättelsen om AI som ett verktyg för effektivisering och korrekthet.

Det är värt att påminna sig om att detta inte är helt nytt som idé — konstnärer har länge arbetat med oväntade tekniska beteenden som konstnärligt material. Det som är nytt är att AI-modeller erbjuder ett rikt och oförutsägbart fellandskap att utforska. Hallucinationerna är inte slumpmässiga på ett trivialt sätt; de bär spår av den data modellen tränats på, av de statistiska mönster den internaliserat. Det gör dem på ett vis meningsbärande — fast på ett förskjutet och ibland surrealistiskt sätt.

Öppen källkod som förutsättning

Ett viktigt inslag i Engramhistorien är att projektet vilar på öppen källkod. Det är ingen slump. Den typ av nära, experimentell interaktion med AI-modellers inre mekanismer som Thoughtful Things beskriver kräver tillgång till modellens faktiska parametrar och arkitektur — inte ett slutet programmeringsgränssnitt mot en molntjänst. Det är ännu ett argument för varför öppna modeller är avgörande, inte bara för forskning, utan också för kulturell och konstnärlig utforskning.

Engram är kanske inte ett verktyg som de flesta musikproducenter kommer att nå för. Men det representerar något viktigt: en påminnelse om att tekniska begränsningar ibland är intressantare än tekniska framsteg. Och att de mest kreativa svaren på ett system sällan handlar om att använda det precis som det var tänkt.