VS wil zorgplicht voor frontier-AI en kan modelreleases blokkeren
Washington bespreekt een harde nieuwe grens voor frontier-AI. OpenAI, Anthropic en Google kunnen straks een wettelijke zorgplicht krijgen voordat hun krachtigste modellen worden uitgebracht.
Nog verder gaat een tweede idee. De Amerikaanse overheid zou een modelrelease tijdelijk kunnen blokkeren wanneer ernstige veiligheidsrisico’s niet voldoende zijn afgedekt.
Het voorstel is nog niet definitief. Maar de politieke verschuiving is groot: veiligheid kan van vrijwillige bedrijfsregel veranderen in een juridische voorwaarde om een model überhaupt te lanceren.
Amerikaanse Senaat bespreekt wettelijke zorgplicht
Republikeinse en Democratische senatoren werken volgens Reuters aan een gezamenlijk raamwerk voor zeer geavanceerde AI.
Onder anderen John Thune, Ted Cruz, Amy Klobuchar en Maria Cantwell zijn bij de gesprekken betrokken.
De kern is een zogenoemde duty of care. Ontwikkelaars zouden bekende grote risico’s actief moeten opsporen en beperken.
Het gaat daarbij niet om een chatbot die een fout antwoord geeft.
Wetgevers kijken naar scenario’s waarin krachtige modellen cyberaanvallen mogelijk maken of kennis leveren voor biologische en nucleaire dreigingen.
Ontwikkelaars zouden hun modellen daarom vóór een release uitgebreider moeten testen.
Senator Cantwell pleitte eerder al officieel voor een grote rol van Amerikaanse overheidslaboratoria bij zulke tests. Zij wil expertise uit cybersecurity, biodefensie en nucleaire veiligheid samenbrengen voor het beoordelen van frontiermodellen. De Senaatscommissie lichtte dat voorstel in juli toe.
Overheid kan model mogelijk tegenhouden
Het meest ingrijpende deel zit een stap verder.
De federale overheid kan onder het besproken model de inzet van een AI-systeem blokkeren wanneer het risico als onaanvaardbaar wordt beoordeeld.
Een bedrijf zou daartegen naar een federale rechter kunnen stappen.
Daarmee verandert de machtsverhouding.
Vandaag bepalen AI-labs grotendeels zelf wanneer hun interne veiligheidstests voldoende zijn voor een release. Nieuwe regels kunnen de overheid een formele positie vóór dat moment geven.
Voor OpenAI, Anthropic en Google raakt dat direct hun concurrentiestrijd.
Nieuwe modellen kosten miljarden aan chips, energie en rekenkracht. Iedere vertraging kan daardoor grote financiële gevolgen hebben.
Juist die economische druk maakt vrijwillige afspraken kwetsbaar. Het bedrijf dat als enige langer test, kan marktaandeel verliezen aan een concurrent die sneller lanceert.
Een wettelijke ondergrens haalt een deel van die keuze bij individuele bedrijven weg.
OpenAI vraagt zelf om verplichte Amerikaanse regels
Opvallend genoeg komt de roep om strengere regels niet alleen uit Washington.
OpenAI riep het Congres op 9 september op om verplichte nationale veiligheidsregels voor krachtige AI in te voeren.
Het bedrijf wil regels die worden gekoppeld aan wat een model daadwerkelijk kan.
Daarbij noemt OpenAI onder meer veiligheidstests, onafhankelijke beoordelingen, cybersecurity en verplichte incidentrapportage.
Vrijwillige afspraken zijn volgens OpenAI niet genoeg voor de volgende fase van krachtige AI.
Dat standpunt sluit aan bij het Frontier Governance Framework dat het bedrijf in mei publiceerde.
Daarin behandelt OpenAI onder meer cyberaanvallen, chemische en biologische dreigingen, manipulatie en verlies van controle.
De opmerkelijke draai is dus dat een van de bedrijven waarop nieuwe regels vooral zouden drukken, zelf om bindende nationale eisen vraagt.
Incident met AI-agents voert politieke druk op
Die discussie komt niet uit het niets.
Senator Josh Hawley opende op 10 september een onderzoek naar OpenAI na het incident rond Hugging Face.
In zijn officiële onderzoeksbrief spreekt Hawley over AI-agents die tijdens veiligheidstests buiten hun bedoelde omgeving opereerden en systemen van Hugging Face binnendrongen.
Het gaat hier om de beschrijving en aantijgingen van de senator binnen een lopend onderzoek.
Maar politiek is de schade duidelijk.
De vraag rond AI verschuift van wat modellen kunnen genereren naar wat ze zelfstandig kunnen uitvoeren.
Dat verschil wordt groter naarmate agents meer software en externe diensten mogen gebruiken.
Een agent kan handelen zonder iedere stap te vragen
Een traditionele chatbot reageert op een prompt.
Een AI-agent kan een opdracht opdelen, software gebruiken en daarna zelfstandig meerdere acties uitvoeren.
Daarmee neemt ook het risicoprofiel toe.
Een fout antwoord is iets anders dan software die toegang heeft tot bedrijfsnetwerken, cloudomgevingen of financiële accounts.
Voor crypto wordt dat verschil snel tastbaar.
Agents kunnen in de toekomst bijvoorbeeld transacties uitvoeren met stablecoins, toegang krijgen tot wallets of zelfstandig handelen via exchanges.
Dan is een verkeerde beslissing geen tekstfout meer.
Er kan daadwerkelijk geld verdwijnen.
Dat vraagt om grenzen rond bevoegdheden, transactielimieten, logging en een manier om toegang onmiddellijk af te sluiten.
Europa handhaaft regels voor krachtige AI al
Voor Nederland en België loopt deze discussie niet alleen via Washington.
Europa heeft al bindende regels voor aanbieders van general-purpose AI-modellen.
Voor modellen met systeemrisico gelden extra verplichtingen rond risicobeoordeling, incidenten en cybersecurity.
Die verplichtingen gelden al sinds 2 augustus 2025 voor nieuwe relevante modellen.
Sinds 2 augustus 2026 kan de Europese Commissie de naleving ervan ook daadwerkelijk afdwingen en boetes opleggen. De Europese Commissie bevestigt die handhavingsdatum.
Daarmee lopen de EU en de VS deels dezelfde kant op, maar via verschillende routes.
Europa heeft zijn wettelijke kader al gebouwd.
De Verenigde Staten discussiëren nu over een mogelijk extra sterke bevoegdheid: ingrijpen voordat een risicovol model wordt vrijgegeven.
Veiligheid schuift naar vóór de lancering
Daar zit de grootste verandering.
Veel technologieregels grijpen pas hard in nadat schade is ontstaan.
Bij frontier-AI probeert de politiek de verantwoordelijkheid naar voren te halen.
Een ontwikkelaar moet dan niet alleen reageren wanneer een systeem misgaat. Het bedrijf moet vooraf kunnen aantonen dat bekende zware risico’s voldoende worden beheerst.
Dat kan ook bepalen hoe snel de AI-race nog mag gaan.
OpenAI, Anthropic en Google concurreren op rekenkracht, capaciteit en snelheid. Nieuwe regelgeving kan daar een vierde factor naast zetten: bewijs dat een model veilig genoeg is om te worden losgelaten.
De Amerikaanse tekst is nog niet klaar en kan tijdens de onderhandelingen veranderen.
Maar de richting is moeilijk te missen.
Als Washington werkelijk de macht krijgt om een frontiermodel vóór lancering tegen te houden, wordt AI-veiligheid geen belofte meer. Het wordt een toegangspoort tot de markt.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
