25 wiskundigen waarschuwen voor AI: de race kan wiskunde beschadigen
Tienduizend AI-agents, 130 miljard outputtokens en een van de beroemdste open problemen uit de wiskunde. Voor AI-bedrijven is dat een krachtmeting. Voor 25 Fields Medalwinnaars is het juist een waarschuwing.
Onder anderen Terence Tao, Peter Scholze, June Huh, Maryna Viazovska en Pierre Deligne stellen dat de jacht op beroemde wiskundeproblemen de wetenschap kan schaden. Niet omdat AI geen plek heeft in onderzoek, maar omdat het verkeerde doel dreigt te worden beloond.
Fields Medalwinnaars slaan alarm over AI-benchmarks
De groep publiceerde op 11 september de verklaring A Severe Misalignment of AI in Mathematics.
Hun stelling is scherp. AI-systemen zijn in korte tijd veel beter geworden in geavanceerde wiskunde, maar een beroemd probleem oplossen is volgens de groep niet hetzelfde als wetenschappelijke vooruitgang.
De ondertekenaars zien een botsing tussen twee belangen.
AI-bedrijven kunnen een moeilijk probleem gebruiken als bewijs dat hun model sterker is dan dat van een concurrent. Wiskundigen willen vooral nieuwe methoden begrijpen, controleren en doorgeven.
Terence Tao schrijft in zijn toelichting op de verklaring dat de tekst uit gesprekken in de voorafgaande week ontstond. De groep koos bewust voor snelheid omdat zij de situatie urgent vond.
Een correct bewijs is nog geen begrip
Daar zit de kern van de ruzie.
Beroemde open problemen hebben binnen de wiskunde nooit alleen waarde omdat er uiteindelijk een vinkje achter komt. De weg naar een bewijs levert vaak nieuwe technieken, begrippen en hele onderzoekslijnen op.
Daarna begint een tweede fase.
Andere onderzoekers controleren het bewijs, maken het korter en zoeken uit welke ideeën breder bruikbaar zijn. Pas dan wordt een resultaat kennis waar een volgende generatie op kan bouwen.
De 25 wiskundigen vrezen dat AI die volgorde kan ontregelen.
Als modellen sneller oplossingen produceren dan mensen ze kunnen begrijpen, ontstaat er geen tekort aan antwoorden. Er ontstaat een tekort aan onderzoekers die weten waarom die antwoorden werken.
OpenAI zette Navier-Stokes op scherp
Die discussie kreeg extra lading door OpenAI.
Het bedrijf maakte bekend dat een intern model een voorgestelde oplossing voor het Navier–Stokes Millennium Prize Problem had geproduceerd.
OpenAI gebruikte daarvoor een systeem dat volgens het bedrijf duidelijk krachtiger is dan GPT-6 Astra. De groep die uiteindelijk het Navier–Stokes-resultaat vond, telde ongeveer 10.000 gelijktijdig werkende agents.
De machines bereikten na circa 88 uur hun resultaat.
Voor Navier–Stokes alleen verstuurden de agents ongeveer 2,7 miljoen berichten en produceerden zij naar schatting 130 miljard outputtokens. Daarna kostte formalisering en controle in Lean met GPT-6 Astra nog eens 17 uur.
Dat is geen gewone chatbot die één slimme ingeving krijgt.
Het is massaal parallel zoeken. Duizenden agents proberen tegelijk routes uit, delen tussenresultaten en laten andere systemen de bruikbare stukken samenvoegen.
De claim is nog geen definitief opgelost Millenniumprobleem
Daar moet wel een harde journalistieke grens worden getrokken.
OpenAI zegt dat zijn systeem een oplossing heeft voorgesteld. Dat betekent niet dat het Navier–Stokes-probleem al definitief door de wiskundige gemeenschap is afgevinkt.
Het bedrijf zegt zelf bovendien dat het de Millennium Prize niet claimt.
De waarde van zo'n resultaat hangt uiteindelijk ook af van menselijke beoordeling, controle en verwerking. Precies daar ligt het punt van de 25 Fields Medalwinnaars.
Een machine kan het eindpunt mogelijk sneller bereiken. Daarmee is nog niet automatisch duidelijk welke nieuwe wiskunde onderweg is ontstaan.
Conflict rond Buckmaster maakt probleem zichtbaar
De spanning werd nog groter door het werk van Tristan Buckmaster en Levent Alpöge.
Buckmaster schrijft in een eigen verklaring dat hij samen met Alpöge verschillende taalmodellen gebruikte bij onderzoek naar gerelateerde problemen. Daarbij werden onder meer Claude en OpenAI's Codex ingezet.
Volgens Buckmaster bereikte informatie over hun voortgang OpenAI voordat het bedrijf zijn eigen grootschalige aanval op Navier–Stokes afrondde.
Hij stelde daarna vragen over zijn gebruik van Codex en over de mogelijkheid dat gegevens uit die sessies het interne systeem konden hebben beïnvloed.
Buckmaster schrijft nadrukkelijk dat hij niet weet of zijn data zijn gebruikt en niemand daarvan beschuldigt.
OpenAI zegt na eigen onderzoek dat zijn Codex-prompts uit de twee maanden voor de aankondiging het gebruikte systeem niet konden beïnvloeden, ook niet via training. Het bedrijf stelt daarnaast dat zijn onderzoekers Buckmasters werk niet hadden gezien voordat dat openbaar werd.
Daarmee is één technisch geschil duidelijker geworden. Het grotere probleem blijft staan: wetenschappers en commerciële AI-labs kunnen tegelijk op hetzelfde prestigeproject jagen.
Prestige verandert welke problemen aantrekkelijk worden
Beroemde wiskundeproblemen zijn perfecte marketingobjecten.
Iedereen begrijpt dat een vraagstuk waarop topwiskundigen tientallen jaren vastlopen moeilijk is. Een AI-model dat daar vooruitgang boekt, vertelt daardoor een veel sterker verhaal dan een paar procent winst op een onbekende test.
En daar ontstaat de verkeerde prikkel.
Het wetenschappelijk interessantste probleem hoeft niet hetzelfde probleem te zijn waarmee een AI-bedrijf het meeste prestige wint.
De 25 Fields Medalwinnaars vrezen dat bedrijven daardoor steeds meer rekenkracht richten op bekende trofeeën.
Dan wordt het oplossen van het probleem zelf het product.
Wie krijgt de eer voor een AI-idee?
Daar komt een tweede hoofdpijndossier bij: attributie.
Moderne modellen leren uit enorme hoeveelheden menselijk werk. Onderzoekers gebruiken dezelfde modellen vervolgens tijdens nieuw onderzoek.
Wanneer een AI daarna een nieuwe bewijsstrategie produceert, kan de oorsprong van een idee lastig te reconstrueren zijn.
Welke publicatie gaf de beslissende hint? Welke onderzoeker legde eerder een route bloot? Welke gebruikersinteractie hielp een systeem later verder?
Snelle aankondigingen maken die vragen alleen lastiger.
De Fields Medalwinnaars waarschuwen daarom ook voor problemen rond auteurschap, bronvermelding en plagiaat. Een correct resultaat kan wetenschappelijk nog steeds arm zijn wanneer niemand meer goed kan reconstrueren waar de ideeën vandaan kwamen.
Dit is geen oproep om AI uit wiskunde te weren
Dat verschil is belangrijk.
De verklaring stelt niet dat AI uit de wiskunde moet verdwijnen.
De ondertekenaars erkennen juist dat AI onderzoek en begrip kan versnellen. Tao experimenteert zelf al langer met taalmodellen, formele verificatie en combinaties van menselijke en machinale bewijsvoering.
De strijd draait dus niet om mens tegen machine.
Het gaat om de vraag wat wordt beloond.
Wanneer prestige naar de eerste partij gaat die een beroemd probleem afvinkt, ontstaat een ander soort wetenschap dan wanneer begrip, controle en overdraagbare methoden de maatstaf blijven.
Leiden Declaration waarschuwde al eerder
De nieuwe brief komt ook niet uit het niets.
Op 2 juni verscheen de Leiden Declaration on Artificial Intelligence and Mathematics. Die verklaring kreeg steun van de International Mathematical Union.
Daarin staan afspraken en aanbevelingen over onder meer transparantie bij AI-gebruik, verantwoordelijkheid voor resultaten, bronvermelding en menselijke controle.
Het verschil zit vooral in de timing.
De Leidse verklaring probeerde regels te formuleren voor wat eraan zat te komen. De Fields Medalwinnaars reageren nu terwijl grote AI-labs daadwerkelijk enorme hoeveelheden rekenkracht op beroemde open problemen loslaten.
De theoretische discussie heeft een stopwatch gekregen.
Dit probleem stopt niet bij wiskunde
Voor AI, crypto en blockchain geldt dezelfde valkuil.
Een systeem kan worden afgerekend op transacties per seconde, rendement, aantallen gebruikers of hoeveel taken een agent zelfstandig afwerkt. Zodra die score het doel wordt, gaat alles richting die score.
Dat zegt nog weinig over veiligheid, betrouwbaarheid of economische waarde.
Bij autonome AI-agents wordt dat verschil scherper. Een agent die meer taken uitvoert dan zijn concurrent ziet er op papier geweldig uit. Als hij daarbij bronnen verkeerd interpreteert of risico's neemt die niemand begrijpt, heb je vooral een snellere manier gebouwd om fouten te schalen.
De 25 Fields Medalwinnaars leggen daarom een probleem bloot dat veel groter is dan één bewijs.
AI kan straks meer kennis produceren dan mensen kunnen verwerken. Dan wordt rekenkracht niet langer de schaarse factor.
Menselijk begrip wordt dat wel.
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
