Duizenden AI-agenten, één mens: World legt zijn aanpak tegen botmisbruik uit
Eén gebruiker kan straks honderden of zelfs duizenden AI-agenten het internet opsturen. Voor websites ontstaat dan een simpel probleem: zijn dat duizenden afzonderlijke gebruikers, of zit steeds dezelfde persoon erachter?
World wil dat oplossen met World ID. Het project legde op 2 oktober uit hoe AI-agenten cryptografisch kunnen aantonen dat zij namens een geverifieerde, unieke mens handelen.
Daardoor kan een platform een limiet per persoon toepassen, zelfs wanneer die persoon een heel leger agents gebruikt.
Duizend agents blijven één mens
Het systeem draait om gedelegeerd bewijs.
Een gebruiker met een geverifieerde World ID kan zijn bewijs van menselijkheid aan een AI-agent koppelen. Een website die deze verificatie ondersteunt, kan vervolgens controleren dat er een echte, unieke persoon achter die agent zit.
Diezelfde gebruiker kan meerdere agents inzetten.
World stelt expliciet dat iemand zelfs duizenden agents kan controleren en bij een telling toch als één mens blijft gelden.
Dat wordt belangrijk zodra gratis API-verzoeken, schaarse producten of andere voordelen per gebruiker worden verdeeld.
Zonder zo'n controle kan één persoon simpelweg nieuwe bots aanmaken om dezelfde limiet telkens opnieuw te gebruiken.
Betalen bewijst niet hoeveel mensen erachter zitten
World maakt daarbij onderscheid tussen geld en identiteit.
Een website kan bots bijvoorbeeld een klein bedrag per verzoek laten betalen. Dat maakt grootschalig misbruik duurder.
Het bewijst alleen niet dat achter honderd betalende agents ook honderd verschillende mensen zitten.
Eén gebruiker kan alle honderd agents financieren.
AgentKit probeert daarom een tweede eigenschap toe te voegen: niet alleen kan een agent betalen, hij kan ook aantonen dat hij teruggaat op een unieke geverifieerde persoon.
Dat geeft websites een andere knop om aan te draaien.
Niet honderd verzoeken per agent, maar bijvoorbeeld honderd verzoeken per mens.
Zero-knowledge proof hoeft naam niet prijs te geven
World ID gebruikt zero-knowledge proofs voor deze controle.
Zo'n cryptografisch bewijs kan aantonen dat aan een voorwaarde is voldaan zonder de onderliggende persoonlijke informatie mee te sturen.
Volgens World hoeft een website daardoor geen naam of andere persoonsgegevens te ontvangen om vast te stellen dat een unieke persoon achter een agent zit.
Dat betekent niet dat iedere actie van de agent daarmee anoniem wordt.
Een website kan nog steeds andere informatie ontvangen via accounts, betalingen, IP-adressen of gegevens die de agent zelf deelt.
Het bewijs beantwoordt een beperktere vraag: staat er een geverifieerde unieke mens achter deze software?
500 petten lieten zien hoe dat kan werken
World testte het idee eerder dit jaar met een beperkte merchandise-uitgifte.
Er waren 500 zogenoemde Human in the Loop-petten beschikbaar. Alleen bezitters van een geverifieerde World ID konden er één claimen.
Een AI-agent kon namens de gebruiker naar het product zoeken, de Shopify-winkel openen en het bestelproces uitvoeren.
Volgens World werden alle 500 petten geclaimd door geverifieerde personen uit verschillende landen.
De regel was gebaseerd op de mens achter de agent.
Meer bots inzetten leverde daardoor niet automatisch meer aanspraak op de beperkte voorraad op.
Dat is precies het probleem waarop World zich richt.
Automatisering blijft toegestaan, maar het aantal agents bepaalt niet hoeveel keer iemand van een schaarse aanbieding gebruik kan maken.
Mens kan bij grote beslissingen weer worden teruggeroepen
Het systeem gaat verder dan alleen aantonen dat ergens een mens achter zit.
World werkt ook aan een human-in-the-loop-model waarbij een agent voor specifieke acties opnieuw toestemming van de gebruiker moet vragen.
Denk aan een grote aankoop, het tekenen van een overeenkomst of een andere handeling met grotere gevolgen.
De agent kan zelfstandig voorbereidend werk uitvoeren. Bij een ingestelde grens moet de mens opnieuw toestemming geven.
World beschrijft daarvoor een zero-knowledge bewijs waarmee later kan worden gecontroleerd dat een unieke persoon de specifieke handeling heeft goedgekeurd.
Okta en Vercel bouwen dezelfde controle in
Andere technologiebedrijven experimenteren eveneens met deze aanpak.
Okta heeft volgens World een early-accessbeta van Human Principal. Daarmee moeten API-aanbieders kunnen controleren of een mens achter een agent en diens acties zit.
World ID kan daarbij als verificatiemethode worden gebruikt.
Vercel werkt aan koppeling van World’s human-in-the-loopfunctie met zijn Workflow SDK. Developers kunnen daarmee een verificatiestap toevoegen voordat een workflow verdergaat.
World noemt ook Exa als praktisch voorbeeld. Daar kunnen gratis API-verzoeken worden gekoppeld aan de geverifieerde mens achter agents, in plaats van iedere nieuwe agent een nieuwe gratis bundel te geven.
Website bepaalt uiteindelijk wat het bewijs waard is
World ID kan zelf geen misbruik verbieden.
Een dienst moet de technologie eerst ondersteunen en daarna bepalen welke regels eraan worden gekoppeld.
Een webshop kan één product per geverifieerde mens toestaan. Een API kan een maandlimiet per persoon instellen. Een ander platform kan helemaal geen World ID gebruiken.
Ook zegt een Proof of Human niets over de bedoelingen van iemand.
Een geverifieerde persoon kan nog steeds spam versturen, een verkeerde aankoop doen of een agent slechte instructies geven. Gedragscontrole en veiligheidsregels blijven dus nodig.
Dat onderscheid wordt belangrijker naarmate agents zelfstandiger worden.
Het internet krijgt straks mogelijk veel meer softwarematige gebruikers dan menselijke gebruikers. World probeert daarom niet iedere bot tegen te houden.
Het probeert iets anders te bewijzen: hoeveel mensen zitten er werkelijk achter al die bots?
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
