OpenAI, het moederbedrijf van de kunstmatige intelligentie chatbot ChatGPT, heeft een initiatief gelanceerd met als doel meer democratische inbreng te brengen in de ontwikkeling van AI. In de officiële aankondiging op 25 mei zei het bedrijf dat ze zich voorbereiden om tien beurzen ter waarde van $100.000 elk toe te kennen voor experimenten om een “proof-of-concept” democratisch proces op te zetten om regels te bepalen die AI-systemen moeten volgen.
Volgens OpenAI moeten de regels “binnen de grenzen die door de wet zijn gesteld” vallen en ten goede komen aan de mensheid. Het bedrijf gaf het volgende aan:
“Deze exchange is een stap om democratische processen in te stellen voor het toezicht op AGI en uiteindelijk superintelligentie.”
Het bedrijf zei dat de experimenten als basis zullen dienen voor een meer “globaal” en “ambitieus” project in de toekomst. Ook zei het dat conclusies uit de experimenten niet bindend zullen zijn, maar eerder gebruikt zullen worden om belangrijke vragen rondom AI-governance te verkennen.
De exchange wordt verstrekt door de non-profit tak van OpenAI. Het bedrijf zei daarnaast dat de resultaten van het project vrij toegankelijk zullen zijn voor het publiek. Dit komt op een moment dat regeringen over de hele wereld streven naar het implementeren van reguleringen voor algemene generatieve AI. Sam Altman, CEO van OpenAI, heeft onlangs ontmoetingen gehad met regelgevers in Europa om het belang van niet-beperkende reguleringen te benadrukken, zodat innovatie niet wordt belemmerd.
Een week eerder getuigde Altman voor het Amerikaanse Congres met een vergelijkbare boodschap. In de aankondiging van het nieuwe beursprogramma echoot OpenAI het sentiment dat wetten moeten worden aangepast aan de technologie en dat AI “meer ingewikkelde en aanpasbare richtlijnen voor zijn gedrag” nodig heeft.
Het gaf voorbeeldvragen zoals “Hoe moeten betwiste standpunten worden weergegeven in de uitvoer van AI?” Daarna zei het dat geen enkel individu, bedrijf of land dergelijke beslissingen moet dicteren.
OpenAI heeft eerder gewaarschuwd dat als AI niet op een doordachte manier wordt ontwikkeld, er binnen een decennium een superintelligente vorm van AI zou kunnen ontstaan. Daarom moeten ontwikkelaars “het goed krijgen”.
