Techbedrijven laten deepfakes van Nederlandse politici door filters glippen

Gepubliceerd op 25/05/2024 18:00 in Tech

Techbedrijven Meta en X hebben in aanloop naar de Europese verkiezingen drie deepfakes van Nederlandse politici door de filters laten glippen, zo blijkt uit onderzoek van BNR. De nepvideo's werden gemaakt met behulp van AI-software en als test op de platformen geplaatst.

In februari beloofden de techbedrijven nog om door AI gemaakte misleidende content rondom de verkiezingen te bestrijden. De onderzoeksredactie van BNR maakte met AI video's van Geert Wilders, Caroline van der Plas en Rob Jetten, en plaatste deze op X, TikTok en de platformen van Meta.

Hoewel de video's nog niet online te zien zijn omdat ze ingepland staan voor de toekomst, wisten ze toch door de filters van X en Meta te komen. Alleen bij TikTok werden de video's als deepfake herkend en werd het account van de onderzoeksredacteur zelfs geblokkeerd.

De resultaten van het onderzoek tonen aan dat ondanks afspraken aan het begin van het jaar, er nog niet genoeg wordt gedaan om misleidende verkiezingsinformatie te bestrijden. Twintig grote techbedrijven die het akkoord tekenden om AI-content rondom verkiezingen op te sporen en aan te pakken, lijken nog niet succesvol te zijn.

Europa heeft al langer de wens om door AI gegenereerde content beter te controleren. De Digital Services Acts van 2022 leggen vast dat misleidende advertenties verboden zijn. Ook in Nederland groeien de zorgen over deepfakes en de invloed op verkiezingen.

Het is nog onduidelijk hoe de deepfakes door de filters van Meta en X zijn geglipt. DuckDuckGoose, een bedrijf dat met speciale software deepfakes kan herkennen, heeft de beelden wel weten te detecteren. Zowel Meta als X hebben nog niet gereageerd op de berichtgeving van BNR. De resultaten van het onderzoek naar Meta zullen naar verwachting pas na de Europese verkiezingen gepubliceerd worden.