Cardano-oprichter waarschuwt onderzoekers na OpenAI-claim over wiskundige doorbraak
Charles Hoskinson ziet een nieuw risico ontstaan nu AI steeds dieper wetenschappelijk onderzoek binnendringt. Wie ongepubliceerde ideeën naar commerciële AI-diensten stuurt, geeft mogelijk gevoelige kennis uit handen.
Die waarschuwing volgt op een opvallende claim van OpenAI. Een intern AI-systeem zou een oplossing hebben gevonden voor het Navier–Stokes-probleem, een van de zeven Millennium Prize Problems.
Het resultaat is nog niet officieel erkend. Maar de snelheid waarmee het tot stand kwam, verandert volgens Hoskinson wel de rekensom voor onderzoekers.
10.000 AI-agents werken 88 uur aan wiskundig probleem
OpenAI publiceerde op 8 september zijn voorgestelde oplossing voor het Navier–Stokes existence and smoothness problem.
Die vergelijkingen beschrijven hoe vloeistoffen en gassen bewegen. Denk aan lucht rond een vliegtuigvleugel, stromend water of turbulentie.
De open wiskundige vraag draait om de vraag of zulke aanvankelijk gladde bewegingen altijd netjes blijven. Of kan onder toegestane omstandigheden een singulariteit ontstaan waarbij bepaalde waarden onbeperkt groeien?
OpenAI zegt dat zijn systeem dat laatste heeft aangetoond.
De groep die tot het resultaat kwam, bestond volgens het bedrijf uit ongeveer 10.000 gelijktijdig werkende AI-agents. Zij kregen toegang tot onder meer codegereedschap en een opgeslagen versie van het internet.
Na ongeveer 88 uur lag er een voorgestelde oplossing.
Daarna gebruikte OpenAI GPT-6 Astra nog ongeveer 17 uur om het bewijs in Lean te formaliseren en te controleren. Lean maakt het mogelijk om wiskundige bewijsstappen door een computer formeel te laten toetsen.
Hoskinson zag deze snelheid niet aankomen
Hoskinson volgt formele wiskunde al langer.
Hij vertelde in een recente uitzending dat hij verwachtte dat AI vooral menselijke wiskundigen zou helpen samenwerken en bewijzen controleren. Dat systemen zo snel zelf complete bewijsroutes zouden produceren, ging verder dan hij enkele jaren geleden voorzag.
Die ontwikkeling raakt een onderwerp waar de Cardano-oprichter zelf geld in heeft gestoken.
Hoskinson schonk in 2021 20 miljoen dollar aan Carnegie Mellon University voor het Hoskinson Center for Formal Mathematics. Het centrum richt zich onder meer op formeel controleerbare wiskunde en digitale hulpmiddelen voor bewijsvoering.
Juist Lean speelt daar een grote rol.
Dat hetzelfde systeem nu wordt gebruikt om een door duizenden AI-agents gevonden bewijs formeel vast te leggen, laat volgens Hoskinson zien hoe snel het vak verandert.
Onderzoekers voeren ongepubliceerde kennis in AI-systemen
Daar ontstaat ook een probleem.
Wetenschappers gebruiken AI niet alleen voor algemene vragen. Ze kunnen voorlopige hypotheses, berekeningen, code en onderzoeksnotities invoeren die nog nergens zijn gepubliceerd.
Bij lokaal draaiende software kan een onderzoeker daar zelf meer controle over houden.
Bij een commerciële clouddienst verlaat die informatie het eigen systeem.
De discussie werd scherper door het werk van NYU-wiskundige Tristan Buckmaster en Anthropic-onderzoeker Levent Alpöge. Zij werkten tegelijkertijd aan een verwant probleem rond de Euler-vergelijkingen.
Buckmaster had daarbij onder meer OpenAI's Codex gebruikt.
Daarna ontstond de vraag of informatie uit dat productgebruik op enige manier kon hebben meegespeeld bij de snelle vooruitgang van OpenAI zelf.
OpenAI ontkent toegang tot specifieke onderzoeksdata
OpenAI spreekt dat op een belangrijk punt tegen.
Het bedrijf zegt dat zijn onderzoekers en AI-agents het werk van Buckmaster en Alpöge niet hebben gezien voordat zij het openbaar maakten.
OpenAI stelt expliciet dat geen specifieke gebruikersdata is geraadpleegd om het Navier–Stokes-probleem op te lossen.
Daarmee is de kwestie alleen niet volledig afgesloten.
Het bedrijf schrijft ook dat het niet met absolute zekerheid kan uitsluiten dat geanonimiseerde gegevens uit eerder productgebruik in bredere zin hebben geholpen zijn modellen te verbeteren.
Dat is een veel beperktere claim.
Er is geen bewijs dat de ongepubliceerde ideeën van de twee onderzoekers rechtstreeks in het bewijs van OpenAI zijn beland.
Maar voor Hoskinson legt de discussie wel een zwakke plek bloot: een onderzoeker moet weten welke gegevens een AI-aanbieder bewaart en waarvoor die gegevens later gebruikt kunnen worden.
AI-bedrijf kan tegelijk assistent en concurrent worden
Dat probleem wordt groter naarmate AI-systemen beter worden in zelfstandig onderzoek.
Een onderzoeker kan een model vandaag gebruiken om één lastige berekening op te lossen. Morgen kan het bedrijf achter datzelfde model met veel meer rekenkracht zelf aan hetzelfde wetenschappelijke probleem werken.
Dan lopen twee rollen door elkaar.
Het platform levert een onderzoeksassistent, maar de maker van die assistent kan zelf ook wetenschappelijke resultaten publiceren.
Dat betekent niet automatisch dat gebruikerskennis wordt misbruikt.
Het betekent wel dat vertrouwelijkheid voor onderzoekers steeds minder een technisch detail is.
Voor nog niet gepubliceerd werk kunnen instellingen daarom scherper moeten kijken naar opslag, trainingsinstellingen en de voorwaarden waaronder prompts worden verwerkt.
OpenAI gebruikte een model sterker dan GPT-6 Astra
Ook de schaal van OpenAI's experiment springt eruit.
Het model dat het bewijs vond, was volgens OpenAI aanzienlijk krachtiger dan GPT-6 Astra. De training ervan liep tijdens het experiment bovendien nog door.
De agents wisselden onderling ideeën uit.
OpenAI gebruikte Codex vervolgens om bruikbare tussenresultaten van verschillende groepen samen te voegen. Die informatie werd opnieuw aan agents gevoerd om nieuwe routes te onderzoeken.
Alleen al voor Navier–Stokes verstuurden de agents volgens OpenAI ongeveer 2,7 miljoen berichten en produceerden ze circa 130 miljard outputtokens.
Dat maakt de vergelijking met één menselijke onderzoeker lastig.
Het gaat hier niet om één chatbot die na een slimme prompt plotseling een beroemd probleem oploste. OpenAI zette massaal parallel rekenwerk en duizenden samenwerkende agents in.
Navier–Stokes staat officieel nog als onopgelost
Daarbij blijft een stevige waarschuwing nodig.
OpenAI presenteert zijn werk als een oplossing, maar daarmee is het Millennium Prize Problem nog niet officieel van de lijst verdwenen.
Het Clay Mathematics Institute vermeldt Navier–Stokes op dit moment nog tussen de onopgeloste Millennium Prize Problems.
Het bewijs moet door wiskundigen worden onderzocht en brede acceptatie krijgen.
Formele verificatie in Lean is daarbij sterk bewijs dat afzonderlijke logische stappen binnen de formalisering kloppen. Het vervangt niet automatisch alle wetenschappelijke beoordeling rond aannames, formulering en de aansluiting op het officiële probleem.
OpenAI zegt zelf bovendien niet van plan te zijn aanspraak te maken op de prijs van 1 miljoen dollar.
De waarschuwing van Hoskinson reikt verder dan wiskunde
Daarmee gaat de discussie uiteindelijk over meer dan Navier–Stokes.
AI-systemen worden snel krachtiger als onderzoeksassistent. Ze kunnen code schrijven, grote hoeveelheden literatuur verwerken en nu zelfs duizenden bewijsroutes tegelijk onderzoeken.
Voor wetenschappers wordt daarom een nieuwe vraag belangrijk: welke kennis stuur je naar een systeem dat je niet zelf beheert?
Bij gepubliceerd onderzoek is die afweging relatief eenvoudig.
Bij een nieuwe theorie, patentwaardige vondst of nog geheime bewijsroute liggen de belangen anders.
OpenAI zegt dat het voor zijn Navier–Stokes-resultaat geen specifieke gebruikersdata van de concurrerende onderzoekers heeft ingezien. Er is dus geen basis om te stellen dat hun werk is gestolen.
De controverse toont wel waarom Hoskinsons waarschuwing gewicht krijgt.
Als AI straks niet alleen je onderzoeksassistent is, maar ook zelf binnen enkele dagen hetzelfde probleem probeert op te lossen, wordt vertrouwelijkheid onderdeel van de wetenschappelijke concurrentiestrijd.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
