Lagarde waarschuwt: AI-afhankelijkheid kan financiële sector dubbel kwetsbaar maken
Een storing bij één grote technologieleverancier kan straks meerdere banken, verzekeraars en andere financiële partijen tegelijk raken. ECB-president Christine Lagarde waarschuwt dat brede afhankelijkheid van dezelfde aanbieders zo een zwakke plek voor het hele financiële stelsel kan worden.
AI voegt daar een tweede risico aan toe. Geavanceerde modellen vergroten volgens Lagarde cyber- en operationele dreigingen, terwijl geconcentreerde beleggingen rond AI een financiële schok sneller kunnen verspreiden.
Die twee mechanismen lijken op elkaar, maar werken anders.
Eén leverancier kan tientallen instellingen tegelijk raken
Lagarde noemt in haar verklaring van 17 oktober aan het Internationaal Monetair en Financieel Comité de concentratie bij belangrijke externe technologieaanbieders expliciet als bron van mogelijke single points of failure.
Het probleem ontstaat wanneer veel financiële instellingen dezelfde externe diensten gebruiken.
Valt zo'n aanbieder langdurig uit, dan kan dezelfde storing op meerdere plekken tegelijk doorwerken.
Dat is wezenlijk anders dan een probleem in één bank.
Een individuele instelling kan goed voorbereid zijn en toch afhankelijk blijven van een externe partij waarop tientallen andere bedrijven eveneens vertrouwen.
AI kan die afhankelijkheid vergroten
De ECB waarschuwde daar al eerder voor.
In een analyse uit mei 2024 koppelden onderzoekers het systeemrisico aan twee voorwaarden: AI moet breed worden gebruikt en het aanbod van modellen en diensten moet bij een beperkt aantal leveranciers liggen.
Hoe sterker die combinatie wordt, hoe groter de mogelijke gevolgen van een storing.
Denk aan banken die voor fraudedetectie, klantcontact, documentanalyse of risicomodellen dezelfde externe technologie gebruiken.
Een fout hoeft dan niet bij iedere instelling afzonderlijk te ontstaan.
Dezelfde fout kan centraal beginnen.
Dezelfde modellen kunnen ook dezelfde fouten produceren
Er is nog een subtieler risico.
Zelfs wanneer de technologie technisch blijft werken, kunnen instellingen vergelijkbare beslissingen gaan nemen wanneer ze dezelfde modellen, data of aannames gebruiken.
De ECB koppelde brede AI-adoptie eerder aan mogelijk sterker kuddegedrag en hogere samenhang tussen marktpartijen.
Dat kan vooral bij handel en risicobeheer tellen.
Wanneer veel modellen tegelijk dezelfde signalen zien en daar vergelijkbaar op reageren, kunnen koop- of verkoopstromen elkaar versterken.
Een model hoeft voor één gebruiker dus niet slecht te zijn om op systeemniveau toch extra kwetsbaarheid te veroorzaken.
Geavanceerde AI verhoogt ook cyberrisico
Lagarde koppelt haar waarschuwing daarnaast aan de nieuwe generatie krachtige AI-modellen.
Die modellen kunnen verdedigers helpen sneller dreigingen te herkennen.
Maar aanvallers krijgen dezelfde technologische versnelling.
AI kan helpen bij het zoeken naar zwakke plekken, het automatiseren van aanvallen en het aanpassen van schadelijke code.
Daarmee krijgt afhankelijkheid van gedeelde technologie een extra lading.
Als meerdere financiële bedrijven dezelfde externe dienst gebruiken en daar een ernstige kwetsbaarheid wordt gevonden, kan het potentiële bereik groot zijn.
De dreiging zit dus niet alleen in uitval.
Ook misbruik telt.
DORA pakt juist die afhankelijkheid al aan
Voor banken, verzekeraars, beleggingsondernemingen en andere financiële partijen in Nederland en België begint deze discussie niet bij nul.
De Europese Digital Operational Resilience Act, beter bekend als DORA, is sinds 17 januari 2025 van toepassing.
De regels verplichten financiële instellingen onder meer om ICT-risico's te beheersen, incidenten te melden en hun digitale weerbaarheid te testen.
Externe technologieleveranciers krijgen daarbij bijzondere aandacht.
De Europese toezichthouders hebben onder DORA inmiddels ook een gezamenlijk toezichtskader voor aanbieders die als kritisch voor de financiële sector zijn aangemerkt.
Europese toezichthouders kijken naar concentratierisico
ESMA, EBA en EIOPA leggen op hun DORA-toezichtspagina expliciet uit waarom dat nodig is.
Wanneer veel financiële instellingen leunen op een beperkt aantal ICT-aanbieders, kan afhankelijkheid een systeemrisico worden.
De toezichthouders kunnen daarom bepaalde aanbieders als kritische derde partij aanwijzen en rechtstreeks onderzoeken hoe zij risico's beheren.
Dat vervangt de verantwoordelijkheid van banken en andere klanten niet.
Een financiële instelling blijft zelf verantwoordelijk voor de weerbaarheid van de diensten die zij uitbesteedt.
Een contract met een grote technologiepartij schuift dat risico dus niet volledig van de balans.
Lagarde waarschuwt ook voor een totaal ander AI-risico
Tot hier gaat het over technologie.
Lagarde noemt daarnaast een financiële kwetsbaarheid die daar niet mee moet worden verward.
Niet-bancaire financiële partijen kunnen grote, vergelijkbare posities opbouwen in bedrijven en activa die aan de AI-golf zijn gekoppeld.
Wanneer die beleggingen hard in waarde dalen, kunnen verliezen zich door het financiële systeem verspreiden.
Partijen kunnen activa moeten verkopen, beleggers kunnen geld terugvragen en financiële verbindingen met banken kunnen de stress verder doorgeven.
Hier is geen softwarestoring voor nodig.
De schok komt uit de marktwaarde van de beleggingen.
Banken kunnen via andere financiële partijen geraakt worden
Lagarde wijst specifiek op niet-bancaire financiële tussenpersonen.
Daaronder vallen bijvoorbeeld bepaalde fondsen en vermogensbeheerders.
Wanneer zulke partijen sterk aan dezelfde AI-gerelateerde posities blootstaan, kan een plotselinge herwaardering meerdere bedrijven tegelijk raken.
Banken kunnen daar vervolgens via leningen, kredietlijnen en andere financiële relaties mee worden geconfronteerd.
Een AI-aandeel hoeft dus niet rechtstreeks op de bankbalans te staan om uiteindelijk toch relevant te worden voor banken.
Dat is het tweede concentratiekanaal.
Twee problemen vragen twee verschillende antwoorden
Het verschil tussen beide risico's is belangrijk.
Bij afhankelijkheid van één technologieaanbieder draait het om uitval, cyberaanvallen, herstelmogelijkheden en alternatieven.
Bij geconcentreerde financiële posities draait het om waardedalingen, liquiditeit, financiering en onderlinge financiële verbindingen.
Een back-upserver lost een koersval niet op.
Extra eigen vermogen voorkomt op zijn beurt niet dat een externe cloud- of AI-dienst urenlang uitvalt.
Toezichthouders moeten daarom naar beide soorten concentratie afzonderlijk kijken.
AI-gebruik zelf is niet het probleem
De ECB stelt niet dat financiële bedrijven AI moeten vermijden.
De technologie kan processen versnellen, fraude helpen opsporen en grote hoeveelheden gegevens sneller analyseren.
De vraag is hoeveel afhankelijkheid daarbij ontstaat.
Kan een instelling overschakelen wanneer een belangrijke aanbieder uitvalt? Blijven belangrijke functies werken? Begrijpt het bedrijf welke beslissingen een extern model beïnvloedt? En reageren concurrenten mogelijk op dezelfde signalen?
Dat zijn andere vragen dan simpelweg hoeveel AI een bank gebruikt.
Van AI-adoptie verschuift de aandacht naar uitval
Lagardes waarschuwing markeert daarmee een volgende fase in het financiële AI-debat.
De eerste vraag was vooral wat instellingen met AI konden bouwen.
De toezichthoudende vraag wordt steeds meer wat er gebeurt wanneer dezelfde technologie op grote schaal faalt, wordt aangevallen of dezelfde verkeerde signalen afgeeft.
En daarnaast: wat gebeurt er wanneer financiële partijen massaal op dezelfde AI-gerelateerde beleggingen zitten zodra het sentiment draait?
AI kan voor iedere afzonderlijke instelling productief zijn.
Als iedereen daarbij afhankelijk wordt van dezelfde leverancier, hetzelfde model of dezelfde financiële trade, ontstaat juist op systeemniveau een nieuwe zwakke plek.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
