Forskare knäcker koden: Så blir AI 16 gånger snabbare

Kampen om AI:s framtid avgörs i infrastrukturen

När alla pratar om vilka AI-modeller som är smartast, pågår en minst lika viktig kamp bakom kulisserna. Det handlar om att göra AI snabbare, billigare och mer energieffektiv – och just nu ser vi flera genombrott som kan förändra spelplanen helt.

Biologin visar vägen framåt

Ett av de mest fascinerande genombrottet kommer från forskare som studerat hur våra egna hjärnor fungerar. Deras metod LRF-Dyn kombinerar så kallade spikande neurala nätverk med Transformer-arkitekturer, enligt ny forskning publicerad på arXiv. Genom att efterlikna hur synneuroner fokuserar på närliggande områden lyckas de dramatiskt minska både energiförbrukning och minnesanvändning.

Detta är inte bara akademisk nyfikenhet. Spikande neurala nätverk fungerar mer som biologiska hjärnor – de "fyrar" endast när det behövs, istället för att konstant pumpa igenom data. För mobila enheter och edge-beräkningar kan detta bli revolutionerande.

Aktiveringsfunktioner får sitt genombrott

Parallellt har andra forskare utvecklat något som låter tekniskt tråkigt men är praktiskt banbrytande: en ny aktiveringsfunktion kallad DAPA (Distribution-Aware Piecewise Activation). Här blir siffrorna svindlande – 16 gånger snabbare beräkningar och 16 gånger mindre hårdvaruresursförbrukning för vissa operationer.

Tricket ligger i att fokusera beräkningskraft där den verkligen behövs. Istället för att behandla all data lika, analyserar DAPA var i dataflödet som mest sannolikt innehåller viktig information och allokerar resurser därefter. För Vision Transformers och språkmodeller som GPT-2 innebär detta att aktiveringsfunktioner inte längre är flaskhalsar.

Storskalig federerad inlärning blir verklighet

Samtidigt löser forskare utmaningen med att träna AI-modeller på data som aldrig får lämna sina ursprungsplatser. Genom att koppla samman fyra av USA:s mest kraftfulla superdatorer har de visat att federerad inlärning fungerar även i extremt stor skala.

Detta är avgörande för områden som sjukvård, finanser och forskning, där känslig data måste stanna lokalt men modellerna ändå behöver lära sig från större datamängder. Tekniken öppnar för AI-utveckling som tidigare varit praktiskt omöjlig.

Komprimering i realtid förändrar allt

En annan smart lösning kommer från TTQ (Test-Time Quantization), som komprimerar AI-modeller under körning istället för på förhand. Detta löser ett verkligt problem: traditionella komprimeringsmetoder fungerar bra för uppgifter som liknar träningsdatan, men presterar sämre på nya typer av förfrågningar.

Genom att anpassa komprimeringen för varje enskild förfrågan kan TTQ optimera modeller i realtid samtidigt som inferenshastigheten förbättras. För stora språkmodeller som används för många olika uppgifter är detta en spelförändring.

Även trådlösa nätverk får AI-boost

Slutstycket kommer från trådlös kommunikation, där forskare utvecklat djupinlärningsramverk som löser komplexa resursfördelningsproblem. Genom att representera binära beslut som sannolikhetsfördelningar undviker de tekniska problem som tidigare begränsat AI:s användning inom området.

Resultaten från tester på användarassociering och antennpositionering visar att AI kan optimera trådlösa system betydligt bättre än traditionella metoder – något som blir allt viktigare när 5G och framtida 6G-nätverk ska hantera explosionen av AI-trafik.