De Nederlandse overheid overweegt een verbod op het gebruik van generatieve AI-toepassingen, waaronder chatbots zoals ChatGPT en beeldgeneratoren zoals Dall-E en Midjourney, door ambtenaren vanwege zorgen over privacy en schendingen van het auteursrecht. Het voorstel, opgesteld door staatssecretaris Alexandra van Huffelen voor Digitale Zaken, is gebaseerd op onderzoek uitgevoerd door het parket van de staat en de Nederlandse Autoriteit Persoonsgegevens (AP), waaruit blijkt dat deze AI-toepassingen niet adequaat voldoen aan de Nederlandse privacy- en auteursrechtwetgeving.
De belangrijkste reden voor de stap van de Nederlandse overheid om het gebruik van AI-software te beperken, ligt in zorgen over privacy en auteursrechtkwesties. Het onderzoek uitgevoerd door het parket van de staat en de AP concludeerde dat “niet-gecontracteerde generatieve AI-toepassingen over het algemeen niet aantoonbaar voldoen aan de Nederlandse privacy- en auteursrechtwetgeving.”
Een groot probleem is het onduidelijke standpunt van AI-providers, zoals Google en OpenAI, met betrekking tot auteursrechten. Veel van deze AI-modellen, waaronder chatbots zoals ChatGPT en Bard, zijn getraind met uitgebreide datasets die auteursrechtelijk beschermd materiaal bevatten, zoals boeken en krantenarchieven. Het gebrek aan transparantie van providers over de specifieke bronnen die ze gebruiken, roept zorgen op over mogelijke schendingen van het auteursrecht.
Naast auteursrechtelijke zorgen maakt de Nederlandse overheid zich zorgen over de mogelijke privacyrisico’s van generatieve AI-toepassingen. Van Huffelen uitte haar bezorgdheid dat deze toepassingen gevoelige informatie kunnen extraheren uit gebruikersinteracties, die vervolgens kunnen worden gebruikt om beslissingen over individuen te nemen.
De mogelijkheid van generatieve AI om reacties en inhoud te genereren op basis van gebruikersinvoer vormt een unieke uitdaging als het gaat om het beschermen van persoonlijke gegevens en het handhaven van privacynormen.
Ondanks het voorgestelde verbod sluit staatssecretaris Alexandra van Huffelen het gebruik van generatieve AI binnen de overheid niet volledig uit. In plaats daarvan is ze van plan verschillende experimenten te starten om te beoordelen hoe overheidsdiensten deze technologie veilig en verantwoord kunnen gebruiken. Deze pilotprogramma’s worden naar verwachting medio 2024 gereed zijn, waarna de overheid richtlijnen zal opstellen voor het verantwoord gebruik van AI.
Daarnaast zal er een trainingsprogramma zijn voor ambtenaren om ervoor te zorgen dat ze goed op de hoogte zijn van de mogelijke risico’s en voordelen van het gebruik van generatieve AI-toepassingen, waardoor verantwoord en ethisch gebruik wordt bevorderd.
Het ontwerpvoorstel om het gebruik van generatieve AI-toepassingen door ambtenaren te verbieden, zal binnenkort worden besproken door de Ministerraad. Als het wordt goedgekeurd, zal dit verbod van toepassing zijn op alle overheidsdiensten en hun leveranciers, wat een belangrijke stap is in het aanpakken van de juridische en ethische uitdagingen die worden veroorzaakt door AI-technologie.
Het voorstel van de Nederlandse overheid om ambtenaren te verbieden generatieve AI-toepassingen zoals ChatGPT, Dall-E en Midjourney te gebruiken, benadrukt de groeiende zorgen over privacy en auteursrechtelijke schendingen die verband houden met deze technologieën. De beslissing om hun gebruik te beperken benadrukt de noodzaak van een alomvattend kader dat zorgt voor verantwoorde en ethische adoptie van AI in overheidsdiensten. Terwijl de Ministerraad dit voorstel bespreekt, wordt het interessant om te zien hoe Nederland het complexe terrein van AI-governance zal navigeren in de komende jaren.
