Eén
AI-model voor elke taak wordt een dure gewoonte. Nvidia’s nieuwe Switchyard laat zien waar agents heen schuiven: niet één brein, maar een mandje modellen dat per stap wordt aangesproken.
Dat raakt meer dan AI-bedrijven. Voor AI-crypto, DePIN en machinebetalingen kan deze modelroute bepalen wie straks rekencapaciteit levert, wie afrekent en wie marge pakt.
Nvidia zet router tussen agent en model
Nvidia beschrijft
Switchyard als een Rust-proxy en library voor LLM-verkeer. De software kan aanvragen verdelen over meerdere providers, API-formaten vertalen en met verschillende routeregels werken.
Een agent hoeft daardoor niet meer vast te zitten aan één model. De aanvraag kan naar een zwaarder model, een goedkoper model, een lokaal model of een andere aanbieder.
De gebruiker ziet één systeem. Achter de schermen wordt het verkeer gesplitst.
Dat is het echte punt. De waarde schuift van “wie heeft het beste model?” naar “wie kiest op het juiste moment het juiste model?”
Agents doen geen simpele prompt meer
Een gewone chatbot krijgt een vraag en geeft antwoord. Een agent werkt anders.
Die maakt een plan, leest bestanden, gebruikt tools, zoekt data, schrijft code en probeert daarna fouten te herstellen. Eén opdracht kan daardoor tientallen modelcalls veroorzaken.
Daar wordt een vast topmodel snel duur. Niet elke stap vraagt om zware reasoning.
Een simpele classificatie, korte samenvatting of toolaanroep kan vaak door een kleiner model. Een lastige fout of codebeslissing kan juist een sterker model nodig hebben.
Nvidia’s
stage-router werkt precies met dat idee. Routinewerk kan naar een goedkopere laag, terwijl verkenning, foutherstel en moeilijk denkwerk naar een sterkere laag gaan.
Het beste model hoeft niet alles te winnen
Dit kan de AI-markt harder veranderen dan het lijkt.
Tot nu toe wilde elk groot model de standaardkeuze worden. Wie als default in apps belandt, wint volume, data en distributie.
Met routing wordt dat minder simpel. Een model kan winnen door goedkoop te zijn in één smalle taak.
Een klein codemodel kan routinestappen dragen. Een snel model kan korte antwoorden afhandelen. Een duur frontiermodel komt pas aan bod wanneer de agent vastloopt.
Dat opent de deur voor gespecialiseerde modellen. Niet elk model hoeft de hele wereld te kunnen dragen.
Voor Nvidia past dat goed. Switchyard ondersteunt volgens de
documentatie onder meer OpenAI Chat Completions, OpenAI Responses en Anthropic Messages. De proxy kan dus boven meerdere modelwerelden hangen.
Kosten worden per taak afgerekend
De prijs per miljoen tokens wordt minder interessant wanneer agents tientallen stappen maken. Dan telt de prijs van de hele klus.
Een goedkoop model kan duur uitpakken als het vijf keer faalt. Een duur model kan goedkoper zijn als het in één poging klaar is.
Daarom wordt routing een handelsvloer voor intelligentie. Elke stap krijgt een prijs, risico en verwachte slagingskans.
Nvidia koppelt Switchyard ook aan agentverbetering binnen NeMo. In de
NeMo-documentatie staat dat een agent die één frontiermodel gebruikt, soms goedkoper kan werken met een kleiner model of een routeverdeling.
De boodschap is rauw: veel agentkosten zitten niet in de moeilijke taken, maar in het domweg verkeerd wegsturen van simpele stappen.
De router krijgt macht
Een modelportfolio vermindert afhankelijkheid van één AI-provider. Dat klinkt gezond.
Maar er komt een nieuwe machtslaag voor terug: de router.
Wie bepaalt welk model wordt gekozen, ziet de vraag, meet de uitkomst en kan volume sturen. Dat is een sterke positie.
Bij advertenties wonnen de partijen die verkeer konden verdelen. Bij cloud wonnen de partijen die capaciteit konden bundelen. Bij AI-agents kan de router die rol pakken.
Nvidia noemt Switchyard zelf nog pre-alpha. In de
GitHub-repo staat dat de API en algoritmes sterk kunnen veranderen en dat de software niet voor productiegebruik is bedoeld.
Dus nee, dit is nog geen standaard. Maar de richting is duidelijk.
Waarom crypto hier meekijkt
Voor crypto zit de haak niet in Switchyard zelf. Nvidia bouwt geen tokenlaag voor agentbetalingen.
De haak zit in het gedrag van agents.
Als agents meerdere modellen, databronnen en compute-aanbieders per workflow gebruiken, ontstaat een markt van kleine keuzes en kleine betalingen. Dat lijkt veel meer op machinehandel dan op softwareabonnementen.
Daar kunnen
stablecoins later een rol krijgen. Vooral wanneer agents automatisch moeten afrekenen voor losse modelcalls, datasets of rekenuren.
Ook
DePIN krijgt hiermee een scherpere lat. Decentrale computeprojecten moeten niet alleen GPU’s aanbieden. Ze moeten passen in workflows waarin snelheid, prijs, betrouwbaarheid en betaling per stap tellen.
Wie daar geen harde verbetering levert, wordt gewoon overgeslagen door de router.
Decentrale compute krijgt een zwaardere test
Veel AI-cryptoprojecten verkopen toegang tot verspreide GPU’s. Dat verhaal klinkt goed zolang centrale aanbieders duur, krap en gesloten blijven.
Routing maakt die strijd anders.
Een agent kan straks per taak kiezen tussen hyperscaler, open model, lokaal model, private endpoint of decentrale aanbieder. De goedkoopste optie wint niet automatisch. De betrouwbaarste ook niet.
De winnaar is de partij die op dat moment het beste past.
Dat maakt de markt kouder. Tokens, community en grote woorden tellen minder. Meetbare prestaties tellen meer.
Voor decentrale compute is dat pijnlijk, maar ook eerlijk. Een netwerk dat echt goedkoper en snel genoeg levert, kan juist beter zichtbaar worden in zo’n modelmix.
De volgende strijd zit boven de modellen
Switchyard is vroege software. Toch legt het de vinger op de plek waar AI-agents naartoe gaan.
De agent van morgen heeft geen trouw aan één model. Hij kiest, probeert, wisselt en rekent af.
Daarmee wordt de strijd in AI minder netjes. Modelbouwers, cloudpartijen, open-source teams, Nvidia, wallets en betaalrails komen dichter op elkaar te zitten.
Voor crypto is de vraag simpel. Wordt blockchain alleen toeschouwer bij deze agentmarkt, of levert het de afrekening, toegang en rechten die machines straks nodig hebben?