Meer dan 2.600 leiders en onderzoekers in de tech-industrie hebben een open brief ondertekend waarin zij oproepen tot een tijdelijke pauze in de verdere ontwikkeling van kunstmatige intelligentie (AI). De oproep tot pauze komt voort uit angst voor ‘diepgaande risico’s voor de samenleving en de mensheid’.
De mede-oprichter van Apple, Steve Wozniak, CEO van Tesla, Elon Musk, en een aantal andere AI-CEO’s, CTO’s en onderzoekers behoorden tot de ondertekenaars van de brief, die werd gepubliceerd door het Amerikaanse denktank Future of Life Institute (FOLI) op 22 maart.
Er werd door het instituut opgeroepen om de ontwikkelingen van AI-bedrijven onmiddellijk te pauzeren met het trainen van AI-systemen die krachtiger zijn dan GPT-4 voor ten minste zes maanden. Hierbij werden zorgen geuit over dat ‘menselijke-competitieve intelligentie diepgaande risico’s kan vormen voor de samenleving en de mensheid’.
GPT-4 is de nieuwste iteratie van de op AI aangedreven chatbot van OpenAI, die op 14 maart werd uitgebracht. Tot op heden heeft het enkele van de meest rigoureuze Amerikaanse middelbare school- en rechtenexamens gehaald binnen de 90e percentiel. Het wordt begrepen dat het 10 keer geavanceerder is dan de oorspronkelijke versie van ChatGPT. FOLI gaf het volgende aan:
“Er is een uit de hand gelopen race tussen AI-bedrijven om krachtiger AI te ontwikkelen, waarbij niemand – zelfs niet hun makers – kan begrijpen, voorspellen of betrouwbaar controleren.”
Volgens FOLI zijn de belangrijkste zorgen of machines informatiekanalen kunnen overspoelen, mogelijk met ‘propaganda en onwaarheid’, en of machines alle werkgelegenheidskansen zullen automatiseren. FOLI ging nog een stap verder met deze zorgen en suggereerde dat de ondernemersinspanningen van deze AI-bedrijven kunnen leiden tot een existentiële bedreiging:
“Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk in aantal, intelligentie, overbodigheid en vervanging overtreffen? Moeten we het risico lopen de controle over onze beschaving te verliezen? Zulke beslissingen mogen niet worden gedelegeerd aan niet-gekozen tech-leiders.”
Ook was het instituut het eens met een recente verklaring van OpenAI-oprichter Sam Altman dat een onafhankelijke beoordeling vereist zou zijn voordat toekomstige AI-systemen worden getraind. Niet alle AI-deskundigen hebben zich echter gehaast om de petitie te ondertekenen. De CEO van SingularityNET, Ben Goertzel, legde op Twitter aan Gary Marcus, de auteur van Rebooting.AI, uit dat taal-leermodellen (LLM’s) geen AGI’s zullen worden, waar tot nu toe weinig ontwikkelingen van zijn geweest. In plaats daarvan zei hij dat onderzoek en ontwikkeling voor zaken als biowapens en kernwapens vertraagd zouden moeten worden:
“Over het algemeen zal de menselijke samenleving beter af zijn met GPT-5 dan GPT-4 – beter om iets slimmere modellen te hebben. AI’s die menselijke banen overnemen, zullen uiteindelijk een goede zaak zijn. De hallucinaties en banaliteit zullen afnemen en mensen zullen leren ermee om te gaan.”
Naast taalmodellen zoals ChatGPT, wordt AI-gestuurde deepfake-technologie gebruikt om overtuigende beelden, audio- en videohoaxes te maken. De technologie wordt ook gebruikt om door AI gegenereerde kunstwerken te maken, waarbij sommige zorgen zijn geuit over mogelijke schendingen van auteursrechten in bepaalde gevallen.
Galaxy Digital CEO Mike Novogratz vertelde investeerders onlangs dat hij geschokt was over de hoeveelheid regelgevende aandacht die aan crypto is besteed, terwijl er weinig aandacht is besteed aan kunstmatige intelligentie. Hij gaf het volgende aan:
“Wanneer ik aan AI denk, schokt het me dat we zoveel praten over crypto-regelgeving en niets over AI-regelgeving. Ik bedoel, ik denk dat de overheid het volledig verkeerd heeft.”
FOLI heeft bovendien betoogd dat als een pauze in de ontwikkeling van AI niet snel wordt ingesteld, regeringen zich met een moratorium moeten bemoeien. Het instituut schreef het onderstaande:
“Deze pauze moet openbaar en controleerbaar zijn en alle belangrijke actoren omvatten. Als zo’n pauze niet snel kan worden ingesteld, moeten regeringen ingrijpen en een moratorium instellen.”
