Nvidia verschuift AI-race van snellere chips naar tokens per megawatt
Een snellere GPU lost weinig op wanneer het datacenter geen extra stroom krijgt. Nvidia verschuift daarom de maatstaf voor de AI-race: niet alleen rekenkracht telt, maar hoeveel bruikbare AI-output uit iedere megawatt komt.
Tijdens de AI Infra Summit zet het bedrijf tokens per megawatt centraal. Vooral AI-agents veranderen de rekensom, omdat één opdracht veel meer modelwerk kan veroorzaken dan een simpel chatbotantwoord.
De boodschap is simpel: chips blijven schaars, maar stroom wordt steeds harder de grens.
Nvidia wil AI meten als productieproces
Nvidia spreekt al langer over datacenters als AI factories.
Het idee daarachter is vrij letterlijk. Elektriciteit, data en chips gaan erin. Tokens komen eruit.
Een token is een klein stukje tekst of andere informatie dat een AI-model verwerkt of genereert.
Wie binnen dezelfde stroomaansluiting meer tokens kan produceren, kan dus meer AI-werk verkopen zonder eerst extra megawatts te regelen.
Daarom schuift Nvidia van pure piekprestaties richting prestaties per watt en uiteindelijk agentic tokens per megawatt.
Vera Rubin moet per megawatt veel meer leveren
Het hardste cijfer komt van Vera Rubin NVL72, Nvidia's volgende generatie racksysteem.
Nvidia rapporteert op de AgentX-workload met DeepSeek V4 Pro tot 30 keer meer throughput per megawatt dan GB300 NVL72 bij een doel van 160 tokens per seconde per gebruiker.
Het bedrijf noemt daarnaast tot 45 keer lagere kosten per miljoen tokens binnen dezelfde benchmarkopzet.
Dat klinkt vernietigend voor de vorige generatie.
Maar die cijfers verdienen een stevige voetnoot.
Die 30x geldt niet voor iedere AI-taak
AgentX is geen algemene snelheidsmeter voor alle kunstmatige intelligentie.
De benchmark van SemiAnalysis bootst agentische coderingssessies na. Modellen redeneren meerdere stappen, gebruiken tools en verwerken steeds langere input.
Ook het gekozen snelheidspunt telt.
SemiAnalysis rapporteert zelf dat Vera Rubin bij 150 tokens per seconde per gebruiker ongeveer 7,2 keer de throughput per megawatt van de sterkste gemeten GB300-opstelling haalt. Rond 200 tokens per seconde wordt het verschil kleiner.
Nvidia's 30x ontstaat bij een ander punt op die prestatiecurve.
De conclusie is dus niet dat ieder Rubin-datacenter automatisch dertig keer zoveel AI produceert.
Wel dat het verschil bij zware agentische workloads zeer groot kan worden wanneer zowel snelheid als stroomlimiet strak worden vastgezet.
AI-agents vreten veel meer tokens
Daar zit de reden waarom Nvidia juist nu deze maatstaf naar voren schuift.
Een klassieke chatbot krijgt een vraag en produceert een antwoord.
Een agent kan eerst bestanden lezen, zoeken, code draaien, een database raadplegen en een tweede model inzetten. Daarna kan hij zijn eigen tussenresultaten opnieuw verwerken.
Elke stap kost tokens.
Nvidia verwijst naar OpenRouter-data waaruit zou blijken dat agentische workloads ongeveer 15 keer zoveel tokens kunnen gebruiken als een eenvoudige chatopdracht.
Dat verandert de economische vraag.
Niet: hoeveel losse antwoorden kan één GPU geven?
Maar: hoeveel complete agenttaken kan een datacenter binnen zijn beschikbare vermogen afwerken?
Extra stroom krijgen wordt steeds moeilijker
De timing van Nvidia is niet toevallig.
Het Internationaal Energieagentschap verwacht dat het mondiale elektriciteitsgebruik van datacenters stijgt van ongeveer 485 TWh in 2025 naar 950 TWh in 2030.
Dat is bijna een verdubbeling in vijf jaar.
Het verbruik van specifiek op AI gerichte datacenters kan in dezelfde periode ongeveer verdrievoudigen.
Het IEA ziet tegelijk fysieke beperkingen.
Transformatoren, netaansluitingen, chips en andere onderdelen hebben lange levertijden. Nieuwe datacenters kunnen sneller worden gepland dan energiebedrijven het stroomnet kunnen uitbreiden.
Daar krijgt tokens per megawatt economische waarde.
Een megawatt die er al is, kan meer waard worden wanneer dezelfde aansluiting meer verkoopbare AI-output aankan.
DSX probeert ongebruikte stroomruimte terug te pakken
Nvidia wil daarvoor niet alleen zuinigere chips bouwen.
Met DSX MaxLPS probeert het bedrijf stroom op rack- en datacenterniveau slimmer te verdelen.
Een test bij GPU-cloudbedrijf Lambda draaide negentien nodes binnen ongeveer hetzelfde vermogensbudget als zestien nodes op volledig vermogen. De totale tokenproductie steeg daarbij volgens Nvidia van ongeveer vier miljoen naar vijf miljoen tokens per seconde.
Dat was 24% meer throughput, terwijl de prestatie per watt 23% verbeterde.
Nvidia denkt dat MaxLPS bij toekomstige Vera Rubin-opstellingen in geschikte situaties tot 40% meer GPU-capaciteit binnen hetzelfde megawattbudget kan laten draaien.
Ook dat is een projectie, geen gegarandeerde winst voor ieder datacenter.
De AI-race verschuift buiten de GPU
Daar wordt Nvidia's strategie interessanter.
Wanneer alleen chipkracht telt, concurreert het bedrijf vooral op GPU-prestaties.
Wanneer tokens per megawatt telt, wordt de hele technische keten onderdeel van dezelfde rekensom.
CPU's, GPU's, geheugen, NVLink, Ethernet, opslag, koeling en inference-software beïnvloeden gezamenlijk hoeveel opdrachten een locatie kan verwerken.
Vera Rubin is precies vanuit dat idee ontworpen.
Nvidia probeert de verschillende onderdelen steeds meer als één systeem te verkopen in plaats van als losse accelerators.
Daarmee verschuift ook de concurrentie.
AMD, hyperscalers met eigen chips en gespecialiseerde inferencebedrijven moeten niet alleen aantonen hoe snel hun accelerator is.
Ze moeten laten zien hoeveel bruikbaar werk daar tegenover staat per watt én per dollar.
Datacenter kan zelfs tijdelijk gas terugnemen
Nvidia kijkt nog verder dan efficiëntie.
Samen met Emerald AI onderzoekt het bedrijf hoe AI-rekenparken hun stroomverbruik snel kunnen aanpassen wanneer het elektriciteitsnet daarom vraagt.
Bij eerdere demonstraties kon Emerald AI de vraag met maximaal 40% terugbrengen terwijl belangrijke workloads bleven draaien. Tijdens ruim 200 gesimuleerde netgebeurtenissen werden de gevraagde reducties gehaald.
Niet iedere AI-taak hoeft immers onmiddellijk klaar te zijn.
Training, batchverwerking of werk met lage prioriteit kan soms tijdelijk worden vertraagd. Tijdgevoelige inference kan dan blijven draaien.
Een groot datacenter wordt daarmee niet alleen stroomverbruiker.
Het kan zijn vraag deels aanpassen aan wat het net aankan.
Silicon Valley Power is volgende test, geen afgeronde demonstratie
Daar is nog een belangrijke nuance nodig.
Nvidia en Emerald AI werken ook met Silicon Valley Power aan een pilot in Santa Clara.
Maar die samenwerking moet niet worden gepresenteerd alsof de eerder genoemde resultaten daar al zijn behaald.
De uitgebreide demonstraties vonden onder meer plaats in Arizona en bij een Nebius-locatie buiten Londen. De samenwerking met Silicon Valley Power is een volgende stap om dezelfde aanpak in Silicon Valley te testen.
Dat onderscheid telt.
Energieclaims rond AI worden snel groter dan de experimenten waarop ze gebaseerd zijn.
Voor Bitcoinminers wordt stroomaansluiting interessanter bezit
Hier raakt Nvidia indirect aan Bitcoin.
Miningbedrijven beschikken soms al over grote stroomaansluitingen, terreinen en koelsystemen. Juist die toegang wordt aantrekkelijker nu AI-bedrijven moeite hebben om nieuwe locaties snel op het net te krijgen.
Dat verklaart waarom sommige partijen uit de cryptosector naar AI-rekenwerk kijken.
Maar een mininghal ombouwen is geen kwestie van GPU's neerzetten en klaar.
AI-racks vereisen andere koeling, veel snellere netwerkverbindingen en vaak een veel hogere vermogensdichtheid. Klanten verwachten bovendien andere beschikbaarheid dan bij een blockchain-miner die tijdelijk kan worden uitgezet.
Goedkope stroom blijft waardevol.
Geschikte stroom mét de juiste datacenteropzet is veel waardevoller.
Efficiëntere AI kan totaalverbruik juist verhogen
Daar zit de ongemakkelijke paradox.
Als Nvidia per megawatt veel meer tokens kan produceren, hoeft het totale stroomverbruik niet te dalen.
Goedkopere inference kan juist nieuwe toepassingen rendabel maken.
Het IEA ziet dat effect al: energie per individuele AI-taak daalt snel, maar het aantal gebruikers en zware toepassingen neemt nog sneller toe. Vooral AI-agents kunnen die vraag verder opstuwen.
Meer efficiëntie kan dus leiden tot méér gebruik.
De kosten per taak dalen. Bedrijven zetten vervolgens meer agents aan het werk. Die agents produceren weer veel meer modelcalls.
De besparing wordt dan gedeeltelijk opgegeten door volume.
Megawatts worden onderdeel van de AI-economie
Daarmee is Nvidia's nieuwe taal belangrijker dan één benchmarkrecord.
De AI-sector heeft jarenlang prestaties verkocht in aantallen GPU's en theoretische rekenkracht.
Nu komt daar een veel hardere fysieke grens naast.
Hoeveel stroom krijgt een locatie?
Hoeveel daarvan bereikt de chips?
En hoeveel betalende AI-taken kunnen die chips vervolgens binnen dat vermogensbudget uitvoeren?
Vera Rubin moet laten zien dat Nvidia die rekensom beter beheerst dan zijn concurrenten.
De 30x-claim moet zich daarvoor nog buiten één specifieke benchmark bewijzen.
Maar de verschuiving zelf is al zichtbaar: de duurste GPU ter wereld heeft weinig waarde wanneer het datacenter geen megawatt meer over heeft.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
