ScaleOps får miljardfinansiering för att lösa AI-branschens slöseri med datorkraft

Miljardfinansiering mot AI-branschens dolda problem

När AI-användningen exploderar står företag inför ett växande dilemma: spiralande kostnader för datorkraft. GPU:er som kostar tusentals kronor per timme står outnyttjade, arbetsbelastningar överdimensioneras och molnräkningar skjuter i höjden. Det är precis detta problem som ScaleOps nu ska lösa med hjälp av en ny miljardfinansiering.

Startupföretaget meddelade enligt TechCrunch att man säkrat 130 miljoner dollar i en Serie C-runda värderad till 800 miljoner dollar. Finansieringsrundan leddes av Insight Partners med deltagande från etablerade investerare som Lightspeed Venture Partners och NFX.

Automatisk resurshantering i realtid

ScaleOps utvecklar programvara som automatiskt hanterar och omfördelar datorresurser i realtid. Tekniken bygger på att övervaka hur AI-arbetsbelastningar faktiskt använder tillgängliga resurser och sedan dynamiskt justera allokeringen.

Enligt företaget kan deras lösning minska kostnader för moln- och AI-infrastruktur med upp till 80 procent – en betydande besparing när GPU-kostnader fortsätter att stiga och många företag kämpar med oförutsägbara infrastrukturkostnader.

"Som systemutvecklare vet jag hur frustrerande det kan vara att se dyra resurser stå och mala tomgång", konstaterar verkställande direktören Yodar Shafrir, tidigare ingenjör på Run:ai som förvärvades av Nvidia. "Problemet är inte brist på resurser – utan dålig förvaltning av dem."

Erfarenhet från GPU-orkestrering

Shafrirs bakgrund från Run:ai, ett företag specialiserat på GPU-orkestrering, gav honom djup insikt i branschens utmaningar. Under sin tid där träffade han många DevOps-team som kämpade med att hantera alltmer komplexa AI-arbetsbelastningar.

Denna erfarenhet blev grunden för ScaleOps, som grundades 2022 med fokus på att automatisera det som tidigare krävt manuell övervakning och justering. Istället för att förlita sig på utvecklarteam som manuellt ska optimera resursanvändning, hanterar plattformen detta automatiskt baserat på faktisk användning.

Timing möter marknadsbehov

Finansieringsrundan kommer vid en kritisk tidpunkt för AI-branschen. Medan efterfrågan på AI-tjänster växer exponentiellt, börjar företag inse att nuvarande sätt att hantera infrastruktur inte är hållbart ekonomiskt.

Många organisationer har upptäckt att deras AI-investeringar äts upp av ineffektiv resursanvändning. GPU:er som körs dygnet runt men bara används sporadiskt, utvecklingsmiljöer som förbrukar produktionsresurser, och arbetsbelastningar som allokeras för värsta tänkbara scenario istället för faktiska behov.

ScaleOps positionerar sig som en lösning på detta växande problem genom att erbjuda granulär kontroll över resursfördelning utan att kräva omfattande omstrukturering av befintliga system.

Företaget planerar att använda finansieringen för att utöka sin tekniska personal och accelerera produktutvecklingen, särskilt för att hantera de allt mer sofistikerade AI-arbetsbelastningar som kommer med avancerade språkmodeller och maskininlärningspipelines.