Forskare utvecklar AI med mänskliknande funktioner – kontrollverktygen släpar efter

AI-revolutionen accelererar – men kontrollen släpar efter

AI-agenter utvecklas i raketfart mot ökad självständighet och mänskliknande beteenden. Flera banbrytande forskningsframsteg visar hur långt tekniken kommit, men också hur illa förberedda vi är på konsekvenserna.

Planering som människor

Forskare har utvecklat AdaPlan-H, en planeringsmetod som gör att AI-agenter kan tänka hierarkiskt precis som människor gör. Enligt forskningen på arXiv börjar systemet med en grovkornig plan och förfinar den gradvis baserat på uppgiftens komplexitet – en process som kallas progressiv förfining inom kognitiv vetenskap.

Resultatet är slående: AI:n undviker både överplanering för enkla uppgifter och underplanering för komplexa problem. Experiment visar avsevärt förbättrad framgångsgrad samtidigt som effektiviteten ökar.

Automatisk kunskapsuppbyggnad

En annan studie demonstrerar hur AI-agenter nu kan skapa strukturerade kunskapsdatabaser från vanlig text helt automatiskt. Genom en fleragentsarkitektur där fyra specialiserade AI-roller – domänexpert, projektledare, programmerare och kvalitetssäkrare – samarbetar, kan system bygga upp sofistikerade ontologier från försäkringskontrakt och andra komplexa dokument.

Detta öppnar för skalbar automatisering inom kunskapsteknik, där AI:n inte bara konsumerar information utan aktivt strukturerar och organiserar den.

Minnessystem inspirerade av hjärnan

ZenBrain representerar nästa steg i AI-evolution genom att efterlikna människans minnesarkitektur med sju olika lager – från arbetsminne till långtidsminne. Systemet implementerar processer som minnesbefästning, glömska och återkonsolidering, vilket resulterat i 20,7 procent bättre prestanda än traditionella system.

Särskilt fascinerande är systemets "sömnliknade" process som förbättrar minnesstabiliteten med 37 procent samtidigt som lagringskraven halveras. Efter 30 dagar kvarstår fortfarande 91,2 procent av informationen.

Kontrollproblem växer

Men framstegen kommer med en mörk baksida. Ny forskning avslöjer fem kritiska luckor i våra nuvarande verktyg för att kontrollera autonoma AI-system:

• Verifiering av semantisk avsikt
• Ansvarighet vid rekursiv delegering
• Integritet hos agentidentitet
• Styrning och genomdrivande
• Operativ hållbarhet

Forskare betonar att dessa problem är strukturella och inte kan lösas enbart genom mer teknisk utveckling. När AI-system blir mer självständiga måste styrningsmetoderna skifta från externa begränsningar till intern påverkan av systemets preferenser.

Mätning av självständighet

En ny metod för att mäta graden av självständighet hos AI-system bygger på tre kriterier: avsiktlighet, rationalitet och förklarbarhet. Genom experiment kunde forskare identifiera tre nivåer av självständighet, från noll till hög autonomi.

Verktyg för kontroll

Lysande punkter finns dock. GSAR-ramverket kan upptäcka och korrigera vilseledande påståenden i AI-system genom att dela upp information i fyra kategorier och väga olika typer av bevis. ClawTrace spårar kostnader för AI-agenter i realtid och har visat sig kunna minska mediankostnaden med 32 procent genom automatiska förbättringar.