EU mengt zich in debat over tempo van AI: Altman, Huang en Zuckerberg kiezen verschillende routes
Wie bepaalt wanneer de krachtigste AI-modellen te snel vooruitgaan? Die vraag ligt niet langer alleen bij OpenAI, Meta, Nvidia en Anthropic.
Ursula von der Leyen wil de grootste frontier-AI-labs aan tafel krijgen. De voorzitter van de Europese Commissie brengt Brussel daarmee rechtstreeks in een debat waarin Sam Altman, Jensen Huang en Mark Zuckerberg verschillende antwoorden geven op dezelfde vraag: wie trekt aan de rem wanneer veiligheid achterblijft?
Von der Leyen nodigt frontier-labs uit
Von der Leyen gebruikte haar State of the Union-toespraak van 16 september om de risico’s van steeds krachtigere AI expliciet op de Europese agenda te zetten.
Ze wees onder meer op geavanceerde cyberaanvallen die toekomstige modellen kunnen ondersteunen. Ook wil de EU nauwer samenwerken met landen als het Verenigd Koninkrijk en Canada rond modelevaluaties, verificatie en AI-security.
“I will invite the main frontier labs for a discussion.”
Het doel is niet om per direct een algemene pauze af te kondigen.
Von der Leyen wil bespreken hoe publieke autoriteiten bestaande inspanningen vanuit de AI-sector kunnen ondersteunen om het tempo aan de technologische grens beter te beheersen.
Dat verschil is belangrijk.
Brussel verbiedt nieuwe frontier-trainingen niet. Het probeert wel een positie te krijgen in de discussie over wanneer verdere opschaling verantwoord is.
EU heeft al regels voor de krachtigste modellen
Dat gesprek vindt niet plaats zonder bestaande regels.
De AI Act legt aanbieders van general-purpose AI-modellen verplichtingen op. Voor modellen met systeemrisico’s gelden extra eisen rond evaluaties, risicobeheersing, incidentmeldingen en cybersecurity.
Die verplichtingen gelden voor nieuwe modellen al sinds 2 augustus 2025.
Sinds 2 augustus 2026 kan de Europese Commissie de naleving daarvan ook daadwerkelijk afdwingen, inclusief met boetes.
De nieuwe discussie gaat daarom verder dan de vraag welke beveiligingsmaatregelen een bedrijf moet nemen.
Het gaat ook om het moment vóór een volgende grote sprong: moet een lab kunnen doortrainen zolang bestaande regels worden gevolgd, of moet verdere capaciteitsgroei soms tijdelijk wachten?
Sam Altman houdt stoppen expliciet als optie
OpenAI-CEO Sam Altman kiest niet voor een permanente rem.
Tijdens Dreamforce zei hij wel dat bedrijven bereid moeten zijn te vertragen of te stoppen wanneer veiligheidsmaatregelen niet meer voorlopen op de capaciteiten van hun modellen.
Zijn uitgangspunt is dat alignment, monitoring en beveiliging vóór de technische mogelijkheden moeten blijven. Zodra dat niet meer lukt, moet verdere ontwikkeling volgens hem kunnen wachten.
Dat sluit aan bij een bredere koers die OpenAI deze maand zelf naar buiten bracht.
OpenAI-beleidschef Chris Lehane schreef op 9 september dat vrijwillige afspraken tussen labs niet genoeg zijn. Het bedrijf steunt inmiddels verplichte nationale veiligheidseisen voor zeer krachtige AI en wil tegelijkertijd gezamenlijke standaarden met andere labs ontwikkelen.
OpenAI, Anthropic en Google DeepMind voeren volgens Lehane al gesprekken over dergelijke samenwerking.
OpenAI wil ook onafhankelijke tests
Daarbij komt externe controle steeds nadrukkelijker in beeld.
OpenAI stelt dat onafhankelijke derde partijen frontier-modellen moeten kunnen onderzoeken op gevaarlijke capaciteiten en de werking van beveiligingsmaatregelen. Het bedrijf publiceerde daar eerder dit jaar een eigen aanpak voor.
Dat wordt extra relevant nu modellen meer zelfstandig kunnen handelen.
OpenAI meldde deze maand bijvoorbeeld dat GPT-6 Astra volgens zijn eigen beoordelingskader een kritiek niveau voor cybercapaciteiten bereikt. Met de juiste hulpmiddelen kan het model volgens het bedrijf onbekende beveiligingsfouten vinden en manieren ontwikkelen om systemen aan te vallen.
Dat betekent niet dat het model zonder beperkingen zulke aanvallen mag uitvoeren.
Het laat wel zien waarom het debat verschuift. De vraag gaat steeds minder alleen over tekst genereren en steeds meer over systemen die zelfstandig complexe digitale taken kunnen uitvoeren.
Jensen Huang wil geen nieuwe AI-wetten
Nvidia-topman Jensen Huang trekt een andere grens.
Hij omschreef AI-veiligheid tijdens Dreamforce als vooral een technisch probleem. Als een bedrijf niet voldoende vertrouwen heeft in een product, moet het dat product volgens hem niet uitbrengen.
Een algemene vertraging van AI-ontwikkeling vindt hij niet nodig.
Huang stelt dat snelheid en veiligheid niet automatisch tegenover elkaar staan. Bedrijven kunnen volgens hem snel blijven ontwikkelen en zelf pauzeren wanneer een product niet betrouwbaar genoeg is.
Nieuwe wetgeving acht hij daarvoor niet nodig.
Dat verschilt duidelijk van OpenAI’s huidige lijn. OpenAI steunt inmiddels verplichte nationale veiligheidsregels, terwijl Huang bestaande wetten en interne productdiscipline voldoende acht.
Zuckerberg kiest voor verantwoordelijkheid per bedrijf
Mark Zuckerberg zit dichter bij Huang als het om een gecoördineerde vertraging gaat.
De Meta-CEO stelt dat ieder AI-lab zelf de verantwoordelijkheid en prikkel heeft om een veilig tempo te kiezen. Bedrijven die gebruikers geen vertrouwen geven, lopen volgens hem uiteindelijk commercieel risico.
Daarnaast speelt aansprakelijkheid.
Meta gebruikte zijn nieuwe AI-agent Muse als voorbeeld. Het bedrijf stelde de introductie enkele maanden uit om extra aan veiligheid en beveiliging te werken, zonder eerst te eisen dat concurrenten eveneens stopten.
Tegelijk steunt Zuckerberg onafhankelijke beoordelingen.
Daarmee verwerpt hij externe controle niet. Het verschil zit vooral in de vraag of concurrenten gezamenlijk hun ontwikkeltempo moeten afstemmen.
De drie posities liggen dichter bij elkaar dan ze lijken
Altman, Huang en Zuckerberg zeggen alle drie dat een bedrijf geen systeem moet doorzetten wanneer het dat niet veilig kan doen.
Het conflict begint bij de volgende stap.
Altman houdt ruimte voor gezamenlijke standaarden, externe controle en verplichte overheidsregels.
Huang legt het zwaartepunt bij technische teams, bestaande wetgeving en marktwerking.
Zuckerberg kiest eveneens voor verantwoordelijkheid per lab, maar geeft onafhankelijke evaluatoren wel een duidelijke rol.
De tegenstelling is dus niet simpelweg veiligheid tegenover snelheid.
Het gaat om de vraag wie mag vaststellen dat de veiligheidsgrens is bereikt.
Brussel voegt een vierde machtslaag toe
Von der Leyen brengt daar nu de overheid explicieter tussen.
De Commissie hoeft daarvoor niet vanaf nul te beginnen. Voor de krachtigste general-purpose AI-modellen bestaan al Europese eisen rond tests, risicobeperking en beveiliging.
Een nieuw gesprek met frontier-labs kan die bestaande rol uitbreiden richting afspraken over onafhankelijke beoordelingen en het moment waarop verdere opschaling verantwoord is.
Of daar nieuwe regels uit volgen, staat niet vast.
Vooralsnog gaat het om gesprekken en internationale samenwerking, niet om een aangekondigd Europees trainingsverbod.
Mededinging maakt gezamenlijke vertraging gevoelig
Een sectorbrede afspraak brengt bovendien een ander juridisch probleem mee.
Wanneer grote concurrenten gezamenlijk grenzen stellen aan productie of ontwikkeling, kunnen vragen ontstaan over mededinging. Tegelijk kan samenwerking nodig zijn om gedeelde veiligheidstests en technische standaarden bruikbaar te maken.
OpenAI zegt dat sectornormen over veiligheid de rol van overheden niet mogen vervangen. Ze moeten volgens het bedrijf juist naast verplichte regels en democratische controle bestaan.
Die constructie kan belangrijk worden.
Een afspraak tussen bedrijven onderling is iets anders dan een norm die via wetgeving of een toezichthouder wordt afgedwongen.
Nederland en België krijgen de regels via Europa
Voor Nederlandse en Belgische bedrijven zit de directe impact voorlopig bij de AI Act.
Aanbieders van de zwaarste modellen krijgen te maken met Europese eisen voordat hun systemen breed op de markt verschijnen. Bedrijven die zulke modellen gebruiken, zullen op hun beurt steeds meer vragen krijgen over welke controles hun leveranciers toepassen.
Voor financiële toepassingen wordt dat snel tastbaar.
Een chatbot die een fout antwoord geeft, veroorzaakt meestal een ander soort schade dan een AI-agent die zelfstandig code verandert, gegevens opent of een betaling voorbereidt.
Bij koppelingen met wallets, stablecoins of andere digitale betaalmiddelen worden toestemming en controle daardoor steeds belangrijker.
De grens tussen AI-security en financiële beveiliging wordt dan dunner.
De echte strijd gaat over wie de rem bedient
De techbazen verschillen uiteindelijk minder over het bestaan van veiligheidsrisico’s dan over de verdeling van macht.
Altman accepteert explicietere collectieve regels en een mogelijke vertraging wanneer beveiliging tekortschiet. Huang vertrouwt sterker op engineering en beslissingen binnen bedrijven. Zuckerberg legt verantwoordelijkheid eveneens per lab, aangevuld met externe evaluaties.
Von der Leyen zet daar de Europese overheid naast.
Daarmee krijgt de discussie een nieuwe fase.
De vraag is niet langer alleen of een volgend frontier-model krachtiger kan worden gebouwd. Steeds vaker zal eerst moeten worden vastgesteld wie mag beoordelen dat het veilig genoeg is om die volgende stap te zetten.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
