Toename van risico's bij gebruik van kunstmatige intelligentie, waarschuwt Autoriteit Persoonsgegevens

Gepubliceerd op 18/12/2023 22:00 in Tech

De Autoriteit Persoonsgegevens heeft in zijn eerste jaarrapport over kunstmatige intelligentie (AI) gewaarschuwd voor de sterk toegenomen risico's van het gebruik ervan. Met name de opkomst van generatieve AI, een technologie die op basis van een opdracht tekst, afbeeldingen of foto's genereert, baart zorgen. Een bekend voorbeeld hiervan is ChatGPT.

Sven Stevenson, programmadirecteur AI bij de Autoriteit Persoonsgegevens, benadrukt dat algoritmes voorspellingen doen en mensen in groepen indelen of profileren. Dit brengt het risico met zich mee dat de uitkomst voor individuen oneerlijk is en kan leiden tot discriminatie of zelfs fysieke risico's.

Een voorbeeld waarbij AI fout gaat, is volgens Stevenson te vinden bij scanauto's die rondrijden in gemeenten en op basis van kentekenplaten controleren of er betaald wordt voor een parkeerplek. Soms krijgen mensen honderden parkeerboetes vanwege één incident, omdat de scanauto herhaaldelijk langsrijdt.

In het rapport van de Autoriteit Persoonsgegevens wordt verwezen naar data over het aantal geregistreerde AI-incidenten wereldwijd, dat vertienvoudigd is. Deze gegevens zijn afkomstig van de Organisatie voor Economische Samenwerking en Ontwikkeling. Er wordt vermoed dat dit slechts het topje van de ijsberg is.

Nederlandse cijfers ontbreken echter. Stevenson geeft toe dat er weinig bekend is op dit gebied en noemt dit zorgelijk. Hij roept burgers en bedrijven daarom op om alert te zijn en te onderzoeken of er sprake is van een algoritme wanneer iets niet klopt of vreemd lijkt.

De Autoriteit Persoonsgegevens pleit in het rapport voor een Deltaplan voor 2030 om algoritmes en AI onder controle te krijgen. Dit betekent onder andere dat mensen die met AI werken, zoals politieagenten, docenten en artsen, ondersteund moeten worden en goed moeten begrijpen hoe algoritmes en AI werken, inclusief de sterke en zwakke punten ervan.

Daarnaast is het volgens de toezichthouder van groot belang dat burgers inzicht krijgen in hoe beslissingen van AI-systemen tot stand komen. Bijvoorbeeld door middel van een vermelding in een brief dat "het AI-systeem een bepalende factor was bij de voorbereiding van dit besluit", aldus Stevenson.

De Autoriteit Persoonsgegevens beschouwt de komst van de Europese AI Act als een belangrijke mijlpaal. Echter, het toezicht op AI in Nederland staat nog in de kinderschoenen. Het coördinerende AI-team binnen de Autoriteit Persoonsgegevens bestaat momenteel uit zeven personen, inclusief Stevenson. In het komende jaar moet dit aantal verdubbelen. Het team wordt gezien als pionierswerk en een van de eerste in Europa.