Een recent onderzoek van het Institute for Strategic Dialogue (ISD) heeft een zorgwekkende trend blootgelegd: de opkomst van geavanceerde AI-tools om video’s te creëren waarin Adolf Hitler wordt afgebeeld. Deze video’s, die vaak vertaalde versies van Hitlers toespraken bevatten, zijn inmiddels meer dan 50 miljoen keer bekeken op verschillende socialemediaplatforms. Door gebruik te maken van AI-spraakgeneratoren worden deze toespraken toegankelijk gemaakt voor een breder, Engelstalig publiek, wat serieuze zorgen oproept over de verspreiding van schadelijke content.
Impact op socialemediaplatforms
Socialmediaplatforms zoals TikTok, X (voorheen Twitter) en Instagram worden geconfronteerd met de verspreiding van extremistische content, waaronder 20-30 seconden durende clips van Hitlers toespraken, vaak begeleid door achtergrondmuziek. Deze video’s promoten antisemitische, anti-islamitische, anti-immigranten en blanke suprematistische ideologieën. Volgens ISD zijn platforms voortdurend in gevecht om nieuwe nazi-content in te dammen, maar sinds augustus zijn video’s en berichten met nazibeelden meer dan 28,4 miljoen keer bekeken.
Het reguleren van dergelijke content blijkt echter een complexe uitdaging. Ramesh Srinivasan, hoogleraar aan de UCLA, benadrukt hoe snel haatdragende content zich verspreidt op sociale media. Algoritmen die prioriteit geven aan boeiende content blijken vaak de oorzaak te zijn van de snelle verspreiding van deze schadelijke inhoud. Ondanks updates in hun beleid om haatzaaiende taal te beperken, hebben platforms zoals X nog steeds moeite om frequente overtredingen tegen te gaan.
Hoe dit te stoppen?
Deze verontrustende trend benadrukt de noodzaak voor gezamenlijke inspanningen van socialemediaplatforms, regelgevers en gebruikers om de verspreiding van haatzaaiende content te stoppen. Terwijl platforms deze uitdagingen aangaan, wordt steeds duidelijker dat geavanceerde maatregelen en robuust beleid essentieel zijn om de opmars van extremistische content tegen te gaan.
