Onderzoek naar illegale activiteiten rond deepfake telefoontjes in New Hampshire

Gepubliceerd op 09/05/2024 18:00 in Tech

Inwoners van de Amerikaanse staat New Hampshire werden begin dit jaar gebeld door een AI-stem die zich voordeed als president Biden en adviseerde om niet te stemmen bij de voorverkiezingen. Het bedrijf uit Texas dat deze belletjes verzond, wordt nu onderzocht wegens illegale activiteiten.

Desinformatie rond verkiezingen is al jaren een probleem, waarbij deepfakes steeds vaker gebruikt worden. Met de opkomst van generatieve AI wordt het makkelijker om overtuigende nepbeelden en -geluiden te creëren.

Volgens Tomasso Canetta, die factchecking coördineert bij de European Digital Media Observatory, kan één deepfake audiobericht kort voor verkiezingen al invloed hebben op de stemresultaten. Audio is op dit moment de meest problematische variant van deepfakes, aangezien visuele nepbeelden vaak nog kleine afwijkingen vertonen.

AI-gemaakte video's zijn nog niet perfect, maar modellen zoals Sora van OpenAI kunnen daar verandering in brengen. Het is vooral lastig om audiodeepfakes te herkennen, wat het extra schadelijk maakt.

Ondanks dat deepfakes nog niet wijdverspreid zijn, kunnen ze toch effect hebben op kiezers. Een test met een deepfakevideo van Nancy Pelosi toonde aan dat Democraten negatiever reageerden op de politicus na het zien van de video.

Factcheckcoördinator Luc van Bakel van de Vlaamse omroep VRT verwacht dat deepfakes een beperkte rol zullen spelen bij de komende Europese verkiezingen. Desinformatie verspreidt zich voornamelijk via sociale media, waar platforms zoals TikTok en YouTube misleidende content trachten te verwijderen.

Er is echter ook een onderstroom van deepfakes die zich afspeelt in privégesprekken op apps zoals WhatsApp, waar ze minder snel opgemerkt worden. Het bestrijden van deepfakes blijft dus een uitdaging voor zowel sociale mediaplatforms als factcheckers.