Mark Zuckerberg wijkt af van oproep tot gezamenlijke AI-vertraging
Mark Zuckerberg wil geen gezamenlijke rem op de ontwikkeling van krachtige AI. De Meta-CEO vindt dat afzonderlijke AI-labs zelf moeten vertragen wanneer hun veiligheidswerk achterloopt.
Daarmee wijkt hij af van Anthropic-topman Dario Amodei. Ook Sam Altman en Elon Musk spraken de afgelopen dagen steun uit voor delen van Amodei's oproep om het tempo rond de krachtigste modellen terug te brengen.
Het verschil lijkt klein. Dat is het niet.
De discussie draait om de vraag wie uiteindelijk op de rem moet kunnen drukken: ieder AI-bedrijf afzonderlijk, de sector gezamenlijk of de overheid.
Zuckerberg vertrouwt op concurrentie en aansprakelijkheid
Zuckerberg ziet concurrentie niet alleen als een risico.
Volgens hem hebben AI-bedrijven sterke commerciële redenen om veilige modellen te bouwen. Systemen die slecht luisteren, onvoorspelbaar handelen of schade veroorzaken, kunnen gebruikers en zakelijke klanten wegjagen.
Daar komt aansprakelijkheid bovenop.
Een bedrijf dat schade veroorzaakt met een slecht beveiligde AI-agent kan met claims en andere juridische gevolgen worden geconfronteerd. Zuckerberg noemt dat een extra financiële prikkel om veiligheid niet te negeren.
Hij verwacht daarom dat alignment zelf een concurrentiefactor wordt.
Alignment betekent simpel gezegd dat een AI-systeem blijft handelen volgens menselijke bedoelingen en opgelegde grenzen. Een krachtiger agent is weinig waard wanneer bedrijven hem niet genoeg kunnen vertrouwen.
Voor Zuckerberg hoeft veiligheid dus niet buiten de concurrentiestrijd te staan. Veiligheid kan juist onderdeel van die concurrentiestrijd worden.
Dat is bijna het spiegelbeeld van de zorg van Amodei.
Die waarschuwt juist dat concurrentiedruk bedrijven kan dwingen sneller nieuwe mogelijkheden te bouwen dan hun veiligheidswerk kan bijhouden.
Meta gebruikt Muse als bewijs
Zuckerberg wijst daarbij naar Muse, Meta's nieuwe persoonlijke AI-agent.
Het bedrijf hield de introductie volgens hem eerder langer tegen om aanvullende beveiliging door te voeren. Meta hoefde daarvoor niet te wachten totdat andere AI-labs hetzelfde deden.
De uiteindelijke opzet laat zien waar Meta de grens probeert te leggen.
Muse kan websites gebruiken, apps bedienen, e-mails versturen en reizen boeken. Daarmee krijgt het systeem veel meer rechten dan een chatbot die alleen tekst terugstuurt.
Meta zegt daarom een aparte Muse Secure VM te hebben gebouwd. Dat is een afgesloten virtuele computer waarin de agent en verbonden gebruikersdata draaien.
Daarnaast draait een tweede agent, Sentinel, apart van Muse.
Volgens Meta mag niets wat Muse doet het internet bereiken zonder controle door Sentinel. Bij gevoelige acties, zoals een aankoop of het versturen van e-mail, moet Muse opnieuw toestemming vragen.
Wachtwoorden en betaalgegevens zijn volgens Meta ook afgeschermd van de agent zelf.
Dat is belangrijk. Een slimme AI-agent beveiligen betekent steeds vaker dat je niet alleen zijn instructies beperkt, maar ook technisch vastlegt welke handelingen werkelijk mogelijk zijn.
Amodei wil de hele voorhoede vertragen
Anthropic kiest een andere route.
Amodei schreef op 12 september dat de sector het tempo waarmee AI-capaciteiten verbeteren bewust moet verlagen. Hij noemt dat pacing: geen stop op AI-onderzoek, maar extra tijd tussen grote sprongen zodat veiligheid kan bijbenen.
Zijn voorstel bestaat uit meerdere lagen.
Anthropic wil zelf onafhankelijke beoordelaars langdurige toegang geven tot zijn systemen. Die partijen moeten veiligheidsmaatregelen, incidenten en gedrag tijdens training kunnen onderzoeken.
Daarna wil Amodei verdergaande samenwerking tussen grote AI-labs en overheden.
Het meest gevoelige onderdeel betreft sterk zelfverbeterende systemen. AI wordt steeds vaker gebruikt om nieuwe AI te ontwerpen, programmeren en testen.
Wanneer dat proces sterk versnelt, kan volgens Amodei ook het tempo waarmee nieuwe mogelijkheden verschijnen flink omhooggaan.
Zuckerberg vindt niet dat daarvoor automatisch een gezamenlijke afspraak nodig is.
Meta zegt zelf weinig rekenkracht op zelfverbetering te zetten
Zuckerberg maakte daarbij nog een opvallend onderscheid.
Volgens hem gebruikt Meta het overgrote deel van zijn beschikbare rekenkracht voor systemen die direct producten en gebruikers bedienen. Het bedrijf zou veel minder nadruk leggen op AI die vooral wordt ontwikkeld om nieuwe AI sneller te verbeteren.
Dat past bij Muse.
Meta bouwt zijn nieuwste modellen steeds nadrukkelijker richting agents die concrete taken uitvoeren. Muse Spark kan bijvoorbeeld plannen maken, e-mail en agenda's gebruiken en zelfstandig stappen uitvoeren.
Juist daardoor schuift veiligheid van theorie naar productontwerp.
Een chatbot kan een verkeerd antwoord geven. Een agent met browser-, mail- en betaalrechten kan een verkeerde actie uitvoeren.
Dat verschil wordt groter naarmate agents zelfstandiger werken.
Gezamenlijk vertragen botst op een tweede probleem
Er zit ook een juridisch risico aan Amodei's voorstel.
Grote concurrenten kunnen niet zomaar afspraken maken over hoeveel zij produceren, ontwikkelen of op de markt brengen. Zulke coördinatie kan onder Amerikaanse mededingingsregels vragen oproepen.
Daarom heeft Amodei gepleit voor beperkte juridische ruimte waarmee AI-labs op veiligheidsgebied gezamenlijk hun tempo kunnen aanpassen.
FTC-voorzitter Andrew Ferguson reageerde daar deze week sceptisch op.
Hij zei vanuit zijn persoonlijke rol wantrouwig te worden wanneer dominante AI-bedrijven tegelijk om nieuwe regels én uitzonderingen op mededingingsregels vragen. Volgens Ferguson kan regelgeving ook worden gebruikt om bestaande marktposities tegen nieuwe concurrenten te beschermen.
Dat is geen uitspraak dat zo'n veiligheidsafspraak per definitie illegaal is.
Het laat wel zien hoe snel twee belangen kunnen botsen: minder veiligheidsrisico door samenwerking tegenover het beschermen van concurrentie.
Onafhankelijke controle vormt opvallend genoeg minder strijd
Op één punt liggen Meta en Anthropic dichter bij elkaar.
Beide zien ruimte voor externe partijen die krachtige systemen testen.
Zuckerberg zegt dat Meta Superintelligence Labs op meerdere terreinen al onafhankelijke beoordelaars inschakelt. Hij noemt dat een aanpak die andere labs zelf ook kunnen invoeren.
Amodei gaat verder.
Hij wil zulke beoordelaars langdurig binnen frontier-labs plaatsen, met toegang die dichter bij die van eigen medewerkers komt.
Het verschil zit dus opnieuw in afdwingbaarheid.
Meta ziet externe beoordeling vooral als iets wat ieder bedrijf zelf kan organiseren. Amodei wil uiteindelijk bredere afspraken waarmee meerdere labs aan vergelijkbare controles worden gebonden.
Europa heeft die keuze deels al gemaakt
Voor Europese gebruikers speelt de discussie anders.
De EU heeft met de AI Act al verplichte regels ingevoerd voor aanbieders van algemene AI-modellen. Voor modellen met systeemrisico gelden extra eisen rond risicoanalyse, modelevaluaties, incidentmeldingen en cyberbeveiliging.
Sinds 2 augustus 2026 kan de Europese Commissie deze verplichtingen voor aanbieders van algemene AI-modellen volledig handhaven.
Europa vertrouwt daarmee niet uitsluitend op de commerciële prikkels die Zuckerberg beschrijft.
Tegelijk verplicht de AI Act bedrijven ook niet simpelweg om gezamenlijk langzamer modellen te bouwen.
De Europese route zit er voorlopig tussenin: bedrijven mogen blijven concurreren, maar bepaalde risico's moeten aantoonbaar worden getest en beperkt.
De echte strijd gaat over wie de snelheid bepaalt
Zuckerberg en Amodei verschillen minder over het bestaan van veiligheidsproblemen dan hun botsing soms doet vermoeden.
Beiden zeggen dat bedrijven moeten kunnen vertragen. Beiden steunen externe evaluaties. En beiden investeren zwaar in controles rond steeds zelfstandiger AI.
Het breekpunt is coördinatie.
Zuckerberg wil dat ieder lab zelf bepaalt wanneer verder trainen of uitrollen verantwoord is. Concurrentie, vertrouwen en aansprakelijkheid moeten bedrijven daarbij disciplineren.
Amodei vreest juist dat diezelfde concurrentie een race kan veroorzaken waarin niemand als eerste stevig durft af te remmen.
Dat maakt de komende AI-strijd groter dan de vraag welk model de hoogste benchmark haalt.
Wie bepaalt wanneer een model te krachtig wordt om zonder extra controles verder te bouwen, krijgt steeds meer invloed op het tempo van de hele sector.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
