Sam Altman: brede toegang tot AI is sommige risico’s waard
OpenAI-topman Sam Altman accepteert dat brede toegang tot AI ook misbruik, scams en hacks kan opleveren. Voor hem weegt dat risico niet op tegen een wereld waarin één organisatie bepaalt wie krachtige AI mag gebruiken.
Daarmee zet Altman zich nadrukkelijk af tegen een model waarin veiligheid vooral wordt bereikt door toegang sterk te beperken. Tegelijk trekt hij wel een harde grens bij scenario’s waarin menselijke controle over zeer krachtige AI onvoldoende kan worden gegarandeerd.
Altman accepteert dat niet alles kan worden voorkomen
Altman deed zijn uitspraken in een interview met Politico.
Zijn uitgangspunt is dat krachtige AI zoveel maatschappelijke waarde kan creëren dat volledige risicoloosheid geen realistisch doel kan zijn.
Dat betekent volgens hem dat een wereld met brede toegang ook slechte uitkomsten zal kennen. Fraude, hacking en ander misbruik verdwijnen niet volledig zolang veel mensen krachtige technologie kunnen gebruiken.
Hij verwerpt echter de andere uiterste optie: één klein aantal bedrijven dat AI zwaar afschermt en vervolgens bepaalt wie toegang krijgt.
Voor Altman zou de prijs daarvan te hoog zijn.
OpenAI en Anthropic verschillen over waar de grens ligt
Daarmee wordt het verschil met Anthropic zichtbaar.
Anthropic pleit voor regels die zwaarder worden naarmate AI-systemen krachtiger en gevaarlijker worden. Bij de meest risicovolle modellen zouden overheden volgens het bedrijf zelfs gevaarlijke deployments moeten kunnen blokkeren.
Altman erkent dat zulke systemen serieuze risico’s kunnen opleveren.
Hij steunt ook het idee dat ontwikkeling moet vertragen wanneer de veiligheid achterloopt. Maar hij verzet zich tegen een model waarin brede toegang vooraf wordt opgeofferd om ieder mogelijk incident te voorkomen.
Dat lijkt een klein verschil.
Het bepaalt uiteindelijk wie macht krijgt over de krachtigste technologie.
OpenAI wil zelf ook verplichte veiligheidsregels
Altman pleit daarmee niet voor een vrije markt zonder grenzen.
OpenAI schreef in september juist dat de Verenigde Staten verplichte nationale veiligheidsregels nodig hebben voor de krachtigste AI-systemen.
Het bedrijf wil gezamenlijke tests, cyberbeveiliging, incidentrapportage en duidelijke meetpunten voor wanneer ontwikkeling moet vertragen of stoppen.
Ook volledig autonome zelfverbetering trekt OpenAI voorlopig als grens.
Systemen die zelfstandig steeds krachtigere opvolgers ontwikkelen, bestaan volgens OpenAI nog niet in die vorm. Het bedrijf vindt dat zo’n stap pas verantwoord is wanneer de veiligheid voldoende kan worden aangetoond.
Menselijke controle blijft daarbij een expliciet uitgangspunt.
Het echte conflict gaat over verdeling van macht
Daarmee draait het debat niet simpelweg om veilig versus onveilig.
Het gaat om twee soorten risico.
Aan de ene kant kan brede toegang betekenen dat meer mensen krachtige AI inzetten voor schadelijke doeleinden.
Aan de andere kant kan zware beperking ertoe leiden dat slechts enkele bedrijven toegang hebben tot systemen met enorme economische macht.
Altman kiest duidelijk voor het eerste model, zolang de zwaarste risico’s afzonderlijk worden begrensd.
Dat is ook economisch logisch.
Hoe meer taken AI kan uitvoeren, hoe waardevoller toegang tot die systemen wordt. Wie die toegang beheert, controleert daarmee een steeds groter deel van wat bedrijven en individuen digitaal kunnen doen.
AI-agenten maken die afweging harder
Bij chatbots blijft een verkeerde beslissing vaak beperkt tot een verkeerd antwoord.
Bij AI-agenten verandert dat.
Een agent kan software bedienen, producten bestellen, andere diensten inschakelen en steeds zelfstandiger economische taken uitvoeren.
Dan wordt brede toegang ineens een discussie over bevoegdheden.
Een AI-agent die een webshop mag bezoeken is iets anders dan een agent die zelfstandig duizenden dollars mag uitgeven.
Hetzelfde geldt voor een agent met toegang tot een wallet.
De vraag is niet alleen of de gebruiker toegang tot krachtige AI moet krijgen.
De vraag wordt hoeveel macht die gebruiker vervolgens aan de software mag doorgeven.
Blockchain lost het autorisatieprobleem niet op
Dat wordt interessant voor crypto.
Een blockchain kan een AI-agent programmeerbaar geld laten versturen zonder bankmedewerker die iedere betaling controleert.
Dat maakt automatische betalingen mogelijk.
Maar de blockchain weet niet vanzelf of de agent een verstandig besluit neemt.
Als software een geldige sleutel bezit en de transactie aan de netwerkregels voldoet, kan de betaling worden uitgevoerd.
Daarom worden limieten, tijdelijke bevoegdheden en menselijke goedkeuring belangrijker naarmate AI-agents meer financiële vrijheid krijgen.
Brede toegang tot AI hoeft dus niet hetzelfde te betekenen als onbeperkte toegang tot geld.
Vrijheid en bevoegdheid zijn twee verschillende dingen
Daar ligt uiteindelijk de interessantste consequentie van Altmans standpunt.
Mensen breed toegang geven tot AI is één ontwerpkeuze.
AI vervolgens onbeperkte bevoegdheid geven om namens die mensen te handelen is een andere.
Juist bij betalingen kan die scheiding belangrijk worden.
Een agent kan vrij zoeken, onderhandelen en keuzes voorbereiden, terwijl voor grote betalingen opnieuw toestemming nodig is. Een andere agent kan alleen binnen een dagelijkse limiet zelfstandig geld uitgeven.
Dat model past eigenlijk opvallend goed bij Altmans bredere redenering.
Niet alle toegang dichtzetten omdat misbruik mogelijk is.
Maar ook niet doen alsof iedere vorm van zelfstandigheid hetzelfde risico draagt.
Hoe krachtiger AI-agenten worden, hoe belangrijker die grens wordt: brede toegang voor mensen hoeft geen blanco cheque voor machines te betekenen.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
