Ethereum-oprichter ziet AI-wapen tegen hackers: software kan bewijsbaar veiliger worden
AI kan hackers veel sneller naar kwetsbaarheden laten zoeken. Vitalik Buterin denkt alleen dat dezelfde technologie verdedigers uiteindelijk een nog sterker wapen kan geven: software die vóór gebruik wiskundig wordt gecontroleerd.
De medeoprichter van Ethereum verzet zich daarmee tegen het idee dat krachtigere AI cybersecurity vanzelf onhoudbaar maakt. In een bericht van 16 september stelde hij dat cyberveiligheid juist structureel in het voordeel van verdedigers kan uitpakken wanneer formele verificatie breed genoeg wordt toegepast. Buterins bericht op X
Dat is geen belofte dat bugs verdwijnen. Het is een andere manier om de strijd te voeren.
AI hoeft niet alleen sneller bugs te vinden
De zorg waar Buterin op reageert is begrijpelijk.
Sterkere AI-modellen kunnen code analyseren, aanvalspaden zoeken en experimenten automatiseren. Werk waarvoor een securityonderzoeker vroeger dagen nodig had, kan daardoor veel sneller worden uitgevoerd.
Dat voordeel krijgen aanvallers.
Maar verdedigers krijgen dezelfde modellen.
Buterin schreef in mei al dat AI-assisted formal verification volgens hem een versneller kan worden voor een ontwikkeling die al langer bezig is: steeds meer beveiliging verschuiven van handmatige controle naar eigenschappen die computers automatisch kunnen verifiëren.
Formele verificatie gaat verder dan gewoon testen
Normale softwaretests stellen meestal een praktische vraag.
Wat gebeurt er wanneer we invoer A, B en C proberen?
Formele verificatie werkt anders. Ontwikkelaars leggen een eigenschap vast als een wiskundige stelling en laten vervolgens controleren of de software daar daadwerkelijk aan voldoet.
Buterin gebruikt beveiligde communicatie als voorbeeld.
Je kunt bijvoorbeeld formeel proberen vast te leggen dat alleen iemand met de juiste private key de inhoud van een bericht kan achterhalen. Vervolgens kan software automatisch controleren of de implementatie die eigenschap respecteert.
Een test zegt dan niet alleen: “we hebben nog geen fout gevonden”.
Het bewijs zegt: binnen deze formeel vastgelegde voorwaarden kan dit gedrag niet optreden.
AI kan het duurste deel goedkoper maken
Formele verificatie bestaat al tientallen jaren.
Het grote probleem is dat het veel gespecialiseerde arbeid vraagt.
Wiskundige stellingen moeten nauwkeurig worden geschreven. Bewijzen kunnen lang en onintuïtief zijn. De koppeling tussen menselijk bedoelde software en formele specificaties is eveneens lastig.
Juist daar ziet Buterin ruimte voor AI.
Hij beschrijft een werkwijze waarbij een AI-systeem bijvoorbeeld efficiënte code schrijft en tegelijk een bewijs produceert dat die snelle implementatie hetzelfde gedrag vertoont als een eenvoudiger, beter leesbare versie.
Het bewijs hoeft vervolgens niet op vertrouwen in het AI-model te rusten.
Een gespecialiseerde prover kan het onafhankelijk controleren.
Een hallucinerend AI-model kan dus alsnog bruikbaar zijn
Dat creëert een opvallend verschil met gewone AI-codegeneratie.
Een taalmodel kan overtuigend klinkende maar verkeerde code produceren.
Bij formele verificatie hoeft het systeem niet op zijn woord te worden geloofd. Het moet een bewijs afleveren dat een deterministische checker accepteert.
Dat maakt het proces volgens Buterin in sommige gevallen geschikt om AI langere tijd zelfstandig aan een probleem te laten werken.
Als het model geen geldig bewijs vindt, is er geen bewijs.
Als het model wel iets produceert, kan dat resultaat machinematig worden gecontroleerd.
Maar ‘veilig’ moet eerst exact worden gedefinieerd
Hier zit tegelijk de grootste zwakte.
Een computer kan alleen bewijzen wat mensen hem vragen te bewijzen.
Een berichtenapp kan bijvoorbeeld perfect voorkomen dat een buitenstaander berichten leest, terwijl er nog steeds fouten bestaan waardoor berichten kunnen worden vervalst, geblokkeerd of verkeerd afgeleverd.
Formele verificatie van één beveiligingseigenschap bewijst niets over eigenschappen die buiten de specificatie vallen.
Buterin waarschuwt daar zelf nadrukkelijk voor. Ook aannames in het bewijs, ongeverifieerde libraries, hardware of andere softwarelagen kunnen alsnog fouten bevatten.
Formele verificatie is dus geen magische stempel met “veilig”.
De kwaliteit van het bewijs hangt af van de kwaliteit van de vraag.
Voor Ethereum is dat geen theoretisch experiment
Voor Ethereum krijgt deze aanpak steeds meer praktische betekenis.
Buterin noemt vier gebieden waar formele verificatie volgens hem bijzonder geschikt voor is: quantumresistente handtekeningen, STARKs, consensusalgoritmes en zero-knowledge EVM's.
Dat zijn juist onderdelen waar één fout buitenproportioneel veel schade kan veroorzaken.
Ethereum onderzoekt bijvoorbeeld een toekomst waarin zero-knowledge proofs de correcte uitvoering van complete blokken kunnen aantonen. Validators hoeven dan niet meer iedere transactie zelf opnieuw uit te voeren, maar controleren een cryptografisch bewijs.
Hoe meer verantwoordelijkheid naar zulke bewijzen verschuift, hoe belangrijker de correcte implementatie ervan wordt.
STARKs laten precies zien waarom bewijs telt
Een STARK is technisch zeer ingewikkeld.
De gewenste beveiligingseigenschap kan daarentegen relatief eenvoudig worden omschreven: een geldig bewijs moet aantonen dat een bepaald programma bij een bepaalde invoer daadwerkelijk de geclaimde uitvoer opleverde.
Buterin wijst daarom op projecten die proberen dergelijke cryptografische onderdelen volledig formeel te verifiëren.
Een andere poging werkt aan een EVM-implementatie waarvan wiskundig moet worden bewezen dat deze hetzelfde gedrag vertoont als een referentie-implementatie.
Dat is relevant voor smart contracts.
Een afwijking in de uitvoeringslaag kan immers grote hoeveelheden digitale activa raken.
Quantumdreiging maakt controle nog belangrijker
Ethereum werkt daarnaast aan bescherming tegen toekomstige quantumcomputers.
De huidige cryptografie gebruikt op verschillende plekken technieken die door voldoende krachtige quantumhardware kunnen worden bedreigd.
De officiële Ethereum-roadmap noemt daarom nieuwe hash-gebaseerde handtekeningen en andere post-quantumcomponenten als onderzoeksrichting. Er bestaat vandaag overigens nog geen quantumcomputer die Ethereum op deze manier kan breken.
Juist nieuwe cryptografie brengt een ander risico mee.
Hoe complexer de vervangende technologie, hoe groter de kans dat een implementatiefout zelf een aanvalsvector creëert.
Formele verificatie kan dan helpen controleren of de software werkelijk doet wat het ontwerp voorschrijft.
Buterin wil uiteindelijk een kleine veilige kern
Zijn bredere visie gaat daarom niet over het mathematisch controleren van ieder stukje software.
Dat zou onpraktisch zijn.
Buterin verwacht eerder een scheiding tussen een kleine, zwaar gecontroleerde kern en software daaromheen die veel minder vertrouwen krijgt.
Minder betrouwbare onderdelen kunnen bijvoorbeeld in een sandbox draaien en slechts beperkte rechten krijgen.
De veilige kern beheert de zaken waarbij een fout desastreus is: geld, cryptografische sleutels, identiteit of systeemrechten.
Ethereum zelf ziet Buterin als een kandidaat voor zo'n kern.
Dat is juist belangrijk wanneer AI veel meer code schrijft
AI kan de hoeveelheid software sterk vergroten.
Dat betekent waarschijnlijk ook meer slechte software.
Buterin verwacht niet dat formele verificatie dat volledig voorkomt. Voor toepassingen met weinig gevolgen kan snelle, imperfecte code zelfs een acceptabele afweging blijven.
Maar bij systemen die miljarden aan crypto beveiligen ligt die verhouding anders.
Daar kan de extra reken- en programmeerkracht van AI juist worden ingezet om de kleine vertrouwde kern strenger te controleren.
De strijd verschuift dan van “wie vindt de bug als eerste?” naar “kunnen we bewijzen dat deze categorie bugs hier niet kan bestaan?”
Hackers houden nog genoeg aanvalspaden over
Ook dat maakt aanvallers niet werkloos.
Een perfect geverifieerd smart contract kan nog steeds afhankelijk zijn van een gecompromitteerde wallet.
Een protocol kan mathematisch correct werken terwijl een gebruiker zijn seed phrase weggeeft.
Hardware, interfaces, externe databronnen en toegangsrechten kunnen eveneens worden aangevallen.
Formele verificatie verkleint dus vooral specifieke technische aanvalsvlakken.
Het vervangt geen operationele beveiliging.
AI kan daarmee beide kanten van de aanval versnellen
Dat maakt Buterins positie interessanter dan simpel AI-optimisme.
Hij erkent dat krachtigere modellen kwetsbaarheden sneller kunnen vinden. Zijn argument is dat verdedigers niet verplicht zijn dezelfde wedstrijd te blijven spelen.
Als AI het haalbaar maakt om kritieke software vooraf veel systematischer te bewijzen, kan de verdedigende kant veranderen van foutzoeken naar foutuitsluiting.
Of dat op complete softwaresystemen praktisch wordt, moet nog blijken.
Maar bij Ethereum wordt die gedachte al concreet toegepast op technologie waar een programmeerfout geen ongemakkelijke foutmelding veroorzaakt, maar toegang kan geven tot enorme hoeveelheden geld.
De AI-securityrace draait daardoor mogelijk niet om wie de slimste hacker bouwt. De interessantere vraag is wie als eerste software bouwt waarvoor de belangrijkste hacks wiskundig onmogelijk zijn gemaakt.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
