Microsoft verschuift AI-regels naar identiteit en rechten van agents
Microsoft verandert zijn AI-regels nu agents niet alleen antwoorden geven, maar ook zelfstandig systemen en tools gebruiken. Identiteit, toegangsrechten en controle tijdens uitvoering krijgen daardoor een grotere rol.
De beveiligingsvraag verschuift.
Niet alleen: wat zegt het model?
Maar vooral: wat mag deze agent daadwerkelijk doen?
Microsoft vernieuwt Responsible AI-aanpak
Het bedrijf ziet agentic AI als een van de ontwikkelingen die bestaande beveiligingsmethoden dwingen te veranderen.
Agents kunnen geheugen gebruiken, data ophalen en externe tools activeren.
Daarmee ontstaat een systeem van modellen, applicaties en gegevensbronnen die elkaar beïnvloeden.
Microsoft kijkt daarom nadrukkelijk naar agent identities, tool permissions en monitoring van acties.
Een agent krijgt een eigen digitale identiteit
Dat idee komt uit klassieke IT-beveiliging.
Een werknemer krijgt een account met specifieke rechten.
Een softwaredienst krijgt eveneens een identiteit die bepaalt welke systemen toegankelijk zijn.
Microsoft trekt die logica door naar AI-agents.
Een agent hoeft dus niet automatisch alle rechten te erven van de menselijke gebruiker die hem activeert.
Dat verkleint de schade wanneer een agent een fout maakt of wordt misleid.
Lezen betekent niet automatisch betalen
Neem een financiële agent.
Die kan toestemming krijgen om saldo's te lezen en transacties te analyseren.
Dat betekent niet dat dezelfde agent zelfstandig geld moet mogen versturen.
Een programmeeragent kan broncode mogen aanpassen zonder toegang te krijgen tot productie.
Autonomie wordt zo opgesplitst in losse rechten.
Dat kan veel veiliger zijn dan één brede toestemming waarmee een agent overal bij kan.
Microsoft wil regels tijdens uitvoering afdwingen
Het bedrijf bouwt hiervoor ook technische middelen.
Microsoft introduceerde ASSERT en de Agent Control Specification eerder dit jaar.
ASSERT zet beleidsregels om in concrete tests voor agents.
De Agent Control Specification plaatst controles op vijf punten.
Daaronder vallen invoer, het model, interne state, het uitvoeren van tools en de uiteindelijke output.
Zo hoeft controle niet alleen vóór lancering plaats te vinden.
Regels kunnen tijdens het werk van een agent worden afgedwongen.
Prompt injection wordt gevaarlijker
Dat is belangrijk bij prompt injection.
Een aanvaller kan verborgen of misleidende tekst plaatsen die een AI probeert over te halen andere instructies te volgen.
Bij een gewone chatbot kan dat een fout antwoord opleveren.
Bij een agent met toegang tot bedrijfssoftware kan het effect groter zijn.
De agent kan bijvoorbeeld gegevens ophalen of een tool gebruiken die de oorspronkelijke gebruiker nooit wilde activeren.
Microsoft zegt daarom duizenden engineers en productmanagers te hebben getraind rond agentic threat modelling en prompt-injectionbescherming.
Monitoring wordt permanent
Ook de manier waarop systemen worden getest verandert.
Traditionele software kan vóór release uitgebreid worden gecontroleerd.
Agents reageren dynamischer.
Nieuwe gebruikers, nieuwe data of een andere tool kunnen gedrag veranderen.
Microsoft stelt daarom dat organisaties continu moeten kunnen zien wat agents doen.
Welke tool werd gebruikt?
Welke rechten waren actief?
Welke actie volgde?
En kon een beveiligingslaag nog ingrijpen?
Governance wordt daarmee onderdeel van dagelijks beheer.
Dit raakt rechtstreeks aan crypto-agents
Voor crypto wordt die vraag snel financieel.
Een AI-agent met toegang tot een wallet kan technisch een transactie voorbereiden of ondertekenen.
Maar een geldige cryptografische handtekening vertelt niet waarom die transactie werd uitgevoerd.
Een blockchain controleert de sleutel.
Niet de bedoeling van de gebruiker.
Daarom moeten organisaties een tweede laag bouwen rond bevoegdheid.
Hoeveel mag een agent uitgeven?
Welke adressen zijn toegestaan?
Wanneer is menselijke toestemming verplicht?
Stablecoins maken die vraag praktischer
Voor stablecoins kan dit snel relevant worden.
Ze zijn programmeerbaar en bewegen continu.
Daardoor passen ze goed bij software die zelfstandig digitale diensten betaalt.
Maar snelheid zonder begrenzing is gevaarlijk.
Een agent die één verkeerde toolcall doet, kan in theorie ook één verkeerde betaling uitvoeren.
Microsoft lost dat cryptoprobleem niet zelf op.
De nadruk op identiteit en rechten laat wel zien welke beveiligingslaag rond zulke agents nodig wordt.
AI-governance verhuist naar runtime
Dat is de grote verandering.
Regels op papier zijn niet genoeg wanneer agents zelfstandig acties uitvoeren.
Beleid moet technisch kunnen bepalen wat tijdens een workflow wel en niet mag.
Microsoft probeert daar standaarden en tools voor te bouwen.
Hoe autonomer AI wordt, hoe minder de belangrijkste vraag draait om intelligentie. De echte grens wordt welke bevoegdheid we een digitale agent durven geven.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
