Den ökande användningen av autonoma AI-agenter kan leda till att behovet av CPU-kärnor i datacenter fyrdubblas. CPU:er har förklarats vara så gott som irrelevanta i artificiell intelligensens era, men de får nu en ny chans tack vare agentbaserad AI som skapar en ny efterfrågekälla.

Enligt analysföretaget Trendforce kan de växande beräkningskraven från autonoma AI-agenter tvinga operatörer att avsevärt öka antalet CPU:er och ompröva balansen mellan CPU:er och GPU:er i sin serverinfrastruktur.

Trendforce uppger att AI-agenter medför en mer CPU-krävande arbetsbelastning än konventionell inferens av stora språkmodeller (LLM). Medan GPU:er fortfarande är nödvändiga för att utföra träningsdelen av AI-modellerna, ansvarar CPU:er för att samordna de komplexa sekvenserna av åtgärder som gör det möjligt för AI-agenter att fungera autonomt – steg som en GPU helt enkelt inte kan utföra.

Dessa aktiviteter omfattar planering av uppgifter, schemaläggning av deluppgifter, anrop av externa verktyg, hantering av interaktioner mellan flera agenter och utvärdering av resultat. Agenterna förlitar sig också på konventionella dataresurser för att köra Python-kod, söka i databaser, genomsöka webbplatser och bearbeta information, enligt Trendforce.

Som ett resultat av detta får CPU:n en ny livskraft och blir en allt viktigare del av AI-infrastrukturen, istället för att enbart fungera som en stödprocessor för GPU:er, enligt Trendforce.

Analysföretaget konstaterar att traditionella AI-datacenter vanligtvis har använt ungefär en CPU per fyra till åtta GPU:er, vilket speglar branschens fokus på att accelerera beräkningsintensiva AI-arbetsbelastningar.

Men agentbaserad AI kan förändra allt detta. Trendforce citerar uppskattningar från Arm som indikerar att kraven på CPU-kärnor kan öka från cirka 30 miljoner kärnor per gigawatt datacenterkapacitet till 120 miljoner kärnor per gigawatt i takt med att agentbaserade AI-arbetsbelastningar blir vanligare.

Det innebär en potentiell fyrfaldig ökning av efterfrågan på CPU-kärnor. Trendforce förväntar sig att förhållandet mellan CPU och GPU i agentisk AI-infrastruktur kommer att utvecklas mot en CPU per en till två GPU:er, jämfört med en betydligt lägre användning av CPU:er i många befintliga AI-implementeringar.

Denna förändring kan också påverka systemprestanda, energiförbrukning och infrastrukturkostnader. Forskning som Trendforce hänvisar till visar att CPU-baserad verktygsbehandling kan stå för så mycket som 90,6 procent av den totala latensen i vissa agentbaserade arbetsbelastningar. CPU:ns dynamiska energiförbrukning kan också utgöra en betydande del av systemets totala energiförbrukning under vissa driftsförhållanden.

Siffrorna understryker vikten av att balansera CPU- och GPU-resurser. Att enbart öka GPU-kapaciteten kanske inte förbättrar den totala prestandan om de processorer som ansvarar för att samordna AI-agenter och utföra deras tillhörande uppgifter blir flaskhalsar.

Ett tydligt tecken på detta växande behov av CPU:er kommer, av alla ställen, från Nvidia. Under lång tid tonade Nvidia ner och till och med nedvärderade CPU:er, och positionerade GPU:n som den ultimata lösningen för allt.

Men företaget ändrade sin inställning för några år sedan i och med introduktionen av Grace-processorn, som nu ingår i Vera-generationen. Vera är utformad för att arbeta i nära samverkan med Nvidias GPU-plattformar och har 88 CPU-kärnor och 176 trådar, tillsammans med en NVLink-C2C-förbindelse med hög bandbredd för kommunikation och minnesdelning med Nvidias acceleratorer.

Nvidia utvecklar också dedikerade Vera-CPU-rack, vilket gör det möjligt för kunderna att driftsätta CPU-system oberoende av GPU-tunga eller rena GPU-system. Det är alltså tydligt att Nvidia ser att CPU:n behövs för att utföra uppgifter som GPU:n inte klarar av.

Trendforces analys pekar på en bredare förändring inom AI-beräkningar: i takt med att systemen går från att generera enskilda svar till att självständigt utföra flerstegsuppgifter blir de processorer som samordnar dessa uppgifter allt viktigare.

Efter tilltagande spekulationer meddelade Nvidias styrelse på torsdagen att vd Jensen Huang avgår. Huang lämnar vd-posten och sin styrelseplats som en konsekvens av den senaste tidens skandaler, där Huang erkänt att han haft en affär, detta med en affärskvinna som amerikansk underrättelsetjänst misstänker är kinesisk spion. I veckan avslöjade New York Times dessutom att Huang även haft en utomäktenskaplig relation med en anställd.

Nvidias styrelse kommer nu att inleda arbetet med att hitta en ny vd för chippjätten, som sett sin aktiekurs rasa betänkligt de senaste dagarna. Under tiden kommer företagets finanschef Colette Kress tjänstgöra som interims-vd.

”Jensens insatser för Nvidia har varit av avgörande betydelse. Nvidia är ett av världens mest inflytelserika teknikföretag. Styrelsen och företaget tackar Jensen för hans ovärderliga insatser för företaget och branschen”, skriver styrelsen i pressmeddelandet.

Styrelsen har tidigare aviserat att en extern utredning tillsatts för att gå till botten med spionaffären.

En ny undersökning från konsultbolaget Capgemini visar att allt fler storföretag planerar att använda billigare AI-modeller med öppna vikter för att hålla nere sina kostnader.

Bakgrunden är att företagens AI-satsningar blivit dyrare än väntat. Capgeminis undersökning omfattar 500 chefer på företag med en årsomsättning på över en miljard dollar i tio länder.

Av dessa räknar 59 procent med att öka användningen av öppna AI-modeller det kommande året, rapporterar Reuters.

AI-modeller med öppna vikter, från exempelvis Deepseek och Mistral, kan laddas ner och köras på företagens egen infrastruktur, medan slutna modeller, som GPT och Claude, normalt används via molnet.

Enligt Capgemini är AI-användningen med öppna modeller i snitt 87 procent billigare än slutna alternativ. Företagsledarna räknar dock med att fortsätta använda de slutna modellerna för mer avancerade uppgifter.