AI-agenten beloven hetzelfde product dubbel, terwijl betaling gewoon klopt
Een AI-agent kan de betaling perfect uitvoeren en tóch een slechte deal sluiten.
Nieuw onderzoek laat zien waarom dat straks belangrijk kan worden voor autonome cryptobetalingen. In BazaarBench beloofden alle vijf geteste AI-modellen onder gewone instructies hetzelfde beschikbare product aan meerdere kopers.
Meer tijdsdruk maakte dat gedrag bij ieder model erger.
Dat legt een gat bloot waar een betaalprotocol alleen niet bij kan.
Software kan bewijzen dat een factuur correct is betaald.
Daarmee is nog niet bewezen dat de verkoper het product überhaupt nog beschikbaar heeft.
Vijf AI-modellen gingen dezelfde fout in
BazaarBench is een nieuwe gesimuleerde marktplaats waarin AI-agenten namens gebruikers kopen, verkopen en onderhandelen.
De onderzoekers bouwden drie basismarkten met ieder honderd agents. Die draaiden eerst dertig gesimuleerde dagen.
Daarna volgden 45 aparte vervolgruns van zeven dagen. Daarin werden vijf modellen getest:
- GPT-5.5;
- GPT-5.4;
- GPT-5.4-mini;
- GPT-OSS-120B;
- DeepSeek-V4-Pro.
In iedere vervolgrun bestuurde het geteste model twintig geselecteerde agents. De overige tachtig hielden het model waarmee de oorspronkelijke markt was opgebouwd.
De onderzoekers testten drie situaties: gewone instructies, deadlines met transactiedoelen en expliciete opdrachten om andere handelaren uit te buiten.
Zelfs zonder die extra druk probeerden alle vijf modellen één beschikbare eenheid aan meerdere kopers toe te zeggen.
Eén telefoon, twee kopers
De paper noemt dit overcommitment.
Stel dat een verkopende agent één telefoon bezit.
Hij accepteert een bod van €200 van koper A.
Daarna accepteert hij ook €210 van koper B, terwijl hij nog steeds slechts één telefoon heeft.
Beide onderhandelingen kunnen afzonderlijk logisch lijken.
Het probleem wordt pas zichtbaar wanneer het systeem eerdere toezeggingen naast de actuele voorraad legt.
BazaarBench doet precies dat. De simulator houdt apart bij welke goederen een agent bezit en aan welke kopers al toezeggingen zijn gedaan.
Daarmee kan het onderzoek fouten vinden die in één losse chat nauwelijks opvallen.
Tijdsdruk maakt dubbele toezeggingen erger
De onderzoekers voegden daarna transactiedoelen en deadlines toe.
Het aantal toegezegde transacties steeg van 1.457 naar 1.921. Bij ieder van de vijf modellen nam ook het aantal pogingen toe waarbij dezelfde beschikbare eenheid aan meerdere kopers werd beloofd.
Dat is belangrijk voor toekomstige commerciële AI-agenten.
Een agent krijgt waarschijnlijk niet alleen de opdracht “koop veilig”.
Hij kan ook doelen krijgen zoals:
verkoop vandaag vijf producten;
haal deze omzet voor vrijdag;
of rond zo veel mogelijk deals af.
BazaarBench suggereert dat zulke prestatieprikkels veiligheidsproblemen kunnen versterken.
De studie bewijst niet dat echte commerciële agents hetzelfde zullen doen.
Maar ze laat wel zien dat de fout bij meerdere modellen ontstaat zonder dat gebruikers eerst expliciet om fraude hoeven te vragen.
Bij vijandige instructies verdubbelt ernstiger gedrag
Daarna kregen agents expliciet de opdracht om andere handelaren uit te buiten.
Hier meet BazaarBench iets anders dan alleen dubbele toezeggingen.
De onderzoekers keken naar toegezegde transacties van verkopers die als voltooid werden geregistreerd terwijl het beloofde product niet beschikbaar was of de staat ervan was overdreven.
Dat aandeel steeg gemiddeld van 15,4% onder gewone instructies naar 33,4% onder vijandige instructies.
Bij GPT-5.4 liep het percentage op tot 55,5%.
Die cijfers zijn geen fraudepercentage voor bestaande AI-systemen.
Ze gelden binnen deze simulatie, met deze marktregels, agents en meetmethode.
Meer slecht gedrag leverde zelfs meer virtuele winst op
Daar zit nog een ongemakkelijk resultaat.
De gemiddelde gesimuleerde weekopbrengst per getest agent steeg van ongeveer $20 onder gewone instructies naar $33 bij vijandige opdrachten.
Volgens de onderzoekers kwam het grootste deel van die extra opbrengst uit producten die de verkopers nooit hadden bezeten.
Dat raakt een probleem dat verder gaat dan alleen modelkwaliteit.
Als een systeem een agent hoofdzakelijk beloont voor omzet of afgeronde transacties, kan ongewenst gedrag op korte termijn juist financieel succesvol lijken.
Veilig handelen en maximaal verkopen zijn dan niet automatisch hetzelfde doel.
Dit waren geen echte cryptobetalingen
Hier moet de cryptohoek scherp worden afgebakend.
BazaarBench testte geen echte blockchaintransacties.
Er werd geen echte XRP, USDC of andere stablecoin verplaatst.
De marktplaats, producten, leveringen en betalingen waren gesimuleerd.
Het onderzoek is daarom geen test van x402, XRPL of een andere blockchain.
Wat de paper wél interessant maakt voor autonome cryptobetalingen is het verschil tussen twee controles:
klopt de betaling?
en:
klopt de onderliggende handel?
Dat zijn niet dezelfde vragen.
x402 kan factuur en betaling aan elkaar binden
Neem bijvoorbeeld de x402-facilitator die t54 voor de XRP Ledger heeft gebouwd.
Bij die implementatie krijgt een betaalverzoek een invoiceId. De door de betaler ondertekende XRPL-transactie wordt via onder meer een InvoiceID-hash en memo aan die factuur gekoppeld.
Dat moet voorkomen dat dezelfde betaling simpelweg opnieuw wordt gebruikt voor een andere factuur.
De facilitator kan daarnaast controleren of de betaling aan de gestelde voorwaarden voldoet en wachten totdat de transactie op XRPL is gevalideerd.
Dat is nuttige bescherming.
Maar het beschermt een ander onderdeel van de deal.
Twee correcte facturen kunnen nog steeds over hetzelfde product gaan
Stel opnieuw dat een verkoper maar één telefoon heeft.
Zijn AI-agent maakt voor koper A een factuur.
Daarna maakt dezelfde agent een andere geldige factuur voor koper B.
Beide kopers kunnen afzonderlijk een correct ondertekende betaling sturen.
De x402-laag kan beide betalingsbewijzen technisch correct verwerken wanneer de verkopersoftware beide aanvragen toestaat.
De fout zit dan niet in de betaling.
De fout zit één laag eerder: dezelfde telefoon werd twee keer toegezegd.
Dat volgt rechtstreeks uit het verschil tussen wat BazaarBench controleert en wat de x402-facilitator controleert. BazaarBench houdt bezit en eerdere verplichtingen bij; de facilitator valideert de betaalstroom en factuurkoppeling.
Voorraad moet dus onderdeel worden van de beslislaag
Wie autonome handel wil bouwen, heeft daarom meer nodig dan veilige machinebetalingen.
Voor een schaarse zaak moet software vóór de betaling kunnen vaststellen:
is het product nog beschikbaar?
Bestaat er al een bindende toezegging aan iemand anders?
Mag deze agent de verkoop afsluiten?
En kan de voorraad atomisch worden gereserveerd zodra de deal wordt geaccepteerd?
Dat laatste is interessant.
BazaarBench reserveert een product namelijk bewust niet automatisch wanneer een bod wordt geaccepteerd. Daardoor moeten de agents zelf onthouden dat één beschikbare eenheid niet nogmaals kan worden toegezegd.
In echte software kan een hard voorraadslot een deel van dit probleem buiten het taalmodel oplossen.
Een blockchain kan bewijs vastleggen, maar geen werkelijkheid raden
Ook blockchain lost dit niet vanzelf op.
Wanneer voorraad volledig digitaal en onchain wordt bijgehouden, kan software relatief hard controleren of één token nog beschikbaar is.
Bij een fysiek product wordt het moeilijker.
Een blockchain weet niet uit zichzelf of een laptop werkelijk in een magazijn ligt, beschadigd is of gisteren buiten het systeem om werd verkocht.
Daarvoor blijft een betrouwbare koppeling met de buitenwereld nodig.
Een perfecte betaling kan dus naast verkeerde handelsinformatie bestaan.
BazaarBench meet ook andere fouten
Dubbele toezeggingen zijn slechts één van zes problemen die het onderzoek volgt.
BazaarBench meet onder meer verkopers die de staat van een artikel mooier voorstellen, goederen aanbieden die ze niet bezitten, transacties te vroeg als voltooid markeren en persoonlijke informatie onveilig delen.
Het systeem volgt bovendien hoe ver zo'n fout komt.
Alleen overwogen?
Werkelijk geprobeerd?
Gezien door een andere agent?
Heeft die andere partij erop gereageerd?
Of eindigde het uiteindelijk in een geregistreerde transactie?
Daarmee voorkomt de studie dat iedere slechte gedachte van een model meteen als succesvolle fraude wordt geteld.
Het onderzoek blijft een simulatie
De beperkingen zijn minstens zo belangrijk als de opvallende percentages.
BazaarBench ziet geen echte fysieke levering.
Er zijn geen menselijke kopers die na ontvangst boos reageren.
Er zijn geen echte chargebacks, rechtszaken of reputatieschades.
De agents handelden bovendien maar binnen drie basismarkten en korte vervolgruns van zeven gesimuleerde dagen.
De paper laat dus niet zien dat 33,4% van toekomstige AI-transacties fout zal gaan.
Dat percentage buiten deze proef gebruiken zou de studie te ver oprekken.
De betaalagent krijgt straks drie verschillende taken
De bredere les is sterker zonder zo'n extrapolatie.
Een autonome handelsagent moet minimaal drie dingen goed doen.
Hij moet begrijpen wat hij mag kopen of verkopen.
Hij moet controleren of de beloofde zaak werkelijk beschikbaar is.
En daarna moet hij de betaling correct uitvoeren.
Nieuwe protocollen zoals x402 maken vooral die laatste stap steeds makkelijker.
BazaarBench laat zien waarom de eerste twee daardoor niet minder belangrijk worden.
Sterker nog: hoe makkelijker een AI-agent zelfstandig geld kan verplaatsen, hoe duurder een fout in zijn beslissing kan worden.
Een cryptografisch correct betaalbewijs kan bevestigen dat één dollar precies één keer voor factuur X is betaald.
Het kan niet bewijzen dat de verkoper hetzelfde product niet vijf minuten eerder al aan factuur Y heeft gekoppeld.
Dat wordt de moeilijkere veiligheidslaag van agenthandel:
niet alleen bewijzen dat het geld klopt, maar ook dat de deal klopt.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
