OpenAI, Anthropic, xAI en Google willen AI-race bewust afremmen
Vier rivalen die miljarden uitgeven om elkaar in AI te verslaan, zeggen nu dat de race te snel kan gaan. Anthropic, OpenAI, xAI en Google DeepMind vinden in verschillende mate dat veiligheidsmaatregelen meer tijd moeten krijgen.
Dario Amodei zette de discussie zaterdag op scherp. De Anthropic-CEO wil de ontwikkeling van de krachtigste modellen bewust doseren wanneer hun mogelijkheden sneller groeien dan bedrijven de risico's kunnen beheersen.
Sam Altman, Elon Musk en Demis Hassabis schaarden zich daarna publiek achter die algemene richting. Daarmee ontstaat een zeldzaam moment van overeenstemming tussen bedrijven die normaal juist maximale druk voelen om als eerste het krachtigste model te bouwen.
Amodei wil niet stoppen, maar bewust vertragen
Amodei noemt zijn aanpak “pacing the frontier”.
Daarmee bedoelt hij nadrukkelijk geen algemene trainingsstop. Bedrijven mogen modellen verder ontwikkelen, maar moeten volgens hem voldoende tijd nemen voor alignment, beveiliging en onafhankelijke controles voordat zij nieuwe capaciteiten verder opschalen.
“We must slow the pace at which we improve the capabilities of AI models.”
Amodei zegt dat zijn zorgen de afgelopen maanden zijn toegenomen.
Een belangrijke reden is dat AI-systemen steeds beter worden in onderzoek en softwareontwikkeling die nodig zijn om volgende generaties AI te bouwen.
Daarmee verschijnt recursive self-improvement in beeld: AI helpt steeds meer mee aan het proces dat uiteindelijk krachtigere AI oplevert.
Amodei stelt niet dat volledig autonome zelfverbetering vandaag al bestaat. Hij vreest wel dat de ontwikkeling sneller kan gaan dan de veiligheidswetenschap kan bijhouden.
Ook OpenAI ziet zelfverbetering als grensgebied
Opvallend genoeg ligt OpenAI inhoudelijk al dicht bij die analyse.
Het bedrijf schreef deze week zelf dat volledig autonome recursive self-improvement momenteel niet plaatsvindt en dat dit ook niet moet worden nagestreefd zolang het niet veilig kan. AI versnelt volgens OpenAI wel al delen van het onderzoek waarmee nieuwe modellen worden gebouwd.
OpenAI-hoofdonderzoeker Jakub Pachocki ging enkele dagen eerder nog verder.
Hij schreef dat AI-systemen steeds meer hun eigen ontwikkeling kunnen aandrijven en dat dit een periode van “extreme caution” vereist. OpenAI zegt verdere opschaling zo nodig eenzijdig te willen tegenhouden wanneer veiligheidsproblemen dat vereisen.
Dat maakt de steun van Altman aan Amodei minder verrassend.
Altman wil dezelfde externe controle invoeren
Amodei stelt onder meer voor om onafhankelijke onderzoekers veel diepere toegang te geven tot AI-bedrijven.
Die evaluatoren moeten niet alleen een voltooid model testen. Ze moeten volgens hem ook zicht krijgen op trainingsprocessen, veiligheidsprocedures en incidenten binnen het bedrijf.
Altman zegt dat OpenAI hetzelfde wil doen.
Dat sluit bovendien aan bij bestaand OpenAI-beleid. Het bedrijf publiceerde eerder al een raamwerk voor onafhankelijke evaluaties van frontiermodellen en stelt dat externe tests steeds belangrijker worden naarmate AI-systemen zelfstandig gereedschappen gebruiken en langere taken uitvoeren.
Het nieuwe element is vooral de gewenste diepte van die controle.
Een externe tester krijgt in Amodei's model bijna dezelfde toegang als een medewerker die veiligheid onderzoekt.
Musk en Hassabis steunen de richting
Ook Elon Musk schaarde zich snel achter Amodei's waarschuwing.
Dat is op zichzelf minder verrassend. Musk waarschuwt al jaren voor systemen die krachtiger worden dan hun menselijke controlemechanismen.
Interessanter is Demis Hassabis.
De Google DeepMind-topman steunt de richting, maar laat ruimte voor discussie over de precieze uitwerking. Dat verschil telt: er ligt nog geen gezamenlijk akkoord tussen Anthropic, OpenAI, xAI en Google over wanneer een modeltraining werkelijk moet vertragen.
Er is dus overeenstemming over het probleem.
Nog niet over één gezamenlijke rem.
De concurrentie maakt vrijwillig vertragen moeilijk
Daar zit meteen het grootste obstakel.
Stel dat Anthropic een nieuw model drie maanden uitstelt omdat een veiligheidstest slecht uitpakt.
Wanneer OpenAI, Google of xAI in die periode gewoon doorgaan, betaalt Anthropic commercieel de rekening voor zijn voorzichtigheid.
Hetzelfde geldt andersom.
Amodei ziet daarom een klassiek coördinatieprobleem. Individueel heeft ieder bedrijf reden om veilig te werken, maar ieder bedrijf heeft óók reden om niet achter te blijven.
Zijn plan probeert dat op drie niveaus te doorbreken.
Eerst met onafhankelijke evaluatoren. Daarna met afspraken tussen bedrijven en overheden. Uiteindelijk wil hij ook internationale afspraken onderzoeken.
OpenAI stelt beursgang uit
Altman trekt de veiligheidsdiscussie ook door naar de financiële kant van OpenAI.
Hij heeft gezegd dat OpenAI niet in 2026 naar de beurs wil. Volgens de CEO ligt er te veel werk rond veiligheid en alignment om juist nu de extra druk van een beursnotering binnen te halen.
Dat is geen klein detail.
Een beursgang brengt aandeelhouders, kwartaalverwachtingen en nog directere commerciële druk met zich mee.
Precies die druk is relevant in een discussie waarin AI-bedrijven zeggen dat ze soms bewust snelheid moeten opgeven.
De echte test volgt wanneer veiligheid en miljardenwaarde daadwerkelijk tegenover elkaar komen te staan.
China maakt een gezamenlijke rem veel moeilijker
Een wereldwijde vertraging is nog ingewikkelder.
Amodei wil niet dat Amerikaanse bedrijven langdurig afremmen terwijl Chinese ontwikkelaars onverminderd doorgaan.
Hij pleit daarom tegelijk voor sterke bescherming van geavanceerde chips, AI-technologie en Amerikaanse modellen.
Dat klinkt op het eerste gezicht tegenstrijdig.
Dezelfde CEO wil de AI-race vertragen én de Amerikaanse voorsprong beschermen.
Maar vanuit zijn redenering horen die twee bij elkaar: alleen wanneer de Verenigde Staten voldoende voorsprong houden, ontstaat volgens hem ruimte om intern voorzichtiger te werk te gaan.
Een echte internationale pauze noemt hij zelf voorlopig weinig waarschijnlijk.
Washington ziet dezelfde spanning anders
Daar botst de veiligheidsdiscussie met geopolitiek.
President Donald Trump heeft juist opnieuw gewezen op de concurrentie met China. Vanuit die redenering kan een Amerikaanse vertraging ook worden gezien als het weggeven van technologische macht.
Dat creëert twee totaal verschillende soorten risico.
Te snel bouwen kan systemen opleveren die onvoldoende worden begrepen.
Te langzaam bouwen kan volgens Washington betekenen dat een geopolitieke tegenstander de leiding neemt.
Geen van beide problemen verdwijnt met een simpele oproep om voorzichtig te zijn.
AI-agents maken dit voor crypto minder theoretisch
Voor crypto wordt deze discussie belangrijk zodra AI-agents zelfstandig over geld beschikken.
Een chatbot die een verkeerd antwoord geeft, veroorzaakt meestal beperkte schade.
Een agent met toegang tot een cryptowallet, exchange-account of betaal-API kan direct transacties uitvoeren.
Dan ontstaan andere vragen.
Mag een agent zelfstandig €100 versturen? €10.000? Mag hij nieuwe software installeren, tokens ruilen of een smart contract goedkeuren?
Bij stablecoins en programmeerbaar geld kan een fout bovendien 24 uur per dag worden uitgevoerd.
Snelheid wordt dan niet alleen een voordeel.
Het verkort ook de tijd waarin een mens nog kan ingrijpen.
Strengere controles kunnen de grootste spelers bevoordelen
Er zit nog een ongemakkelijke economische laag onder de veiligheidsplannen.
OpenAI, Anthropic, Google en xAI hebben enorme budgetten.
Zij kunnen gespecialiseerde veiligheidsteams, externe evaluaties, beveiligde trainingsomgevingen en uitgebreide compliance betalen.
Kleinere ontwikkelaars veel minder.
Wanneer zulke controles verplicht worden, kan veiligheid verbeteren terwijl de toetredingsdrempel tegelijk hoger wordt.
Amodei erkent zelf dat samenwerking tussen concurrenten bovendien mededingingsvragen oproept. Hij noemt zelfs gerichte overheidsbemiddeling of vrijstellingen als mogelijke oplossing om veiligheidsafspraken mogelijk te maken.
Dat maakt toezicht op de toezichthouders eveneens belangrijk.
De echte test is een model dat níét verschijnt
De opvallendste ontwikkeling is daarom niet dat vier bekende AI-leiders waarschuwen.
Waarschuwingen zijn goedkoop.
De serieuze test komt wanneer een bedrijf een bijna voltooid model heeft dat technisch beter is dan dat van zijn concurrenten, maar een veiligheidsevaluatie onvoldoende scoort.
Wordt de release dan werkelijk uitgesteld?
Wordt dure rekenkracht stilgezet?
Krijgt een concurrent tijdelijk vrij spel?
Pas dan weten we of “pacing the frontier” meer is dan een zeldzaam weekend van overeenstemming tussen miljardairs en AI-onderzoekers.
Voorlopig is er wel iets veranderd.
De vraag of de AI-race te snel gaat, komt niet meer alleen van buitenstaanders. De mensen die zelf vooraan in die race lopen, vragen nu wie er op tijd op de rem kan trappen.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
