Overheid en bedrijven moeten grip krijgen op risico's van algoritmes, waarschuwt Autoriteit Persoonsgegevens

Gepubliceerd op 17/07/2023 23:00 in Tech

Overheidsorganisaties en bedrijven moeten meer controle uitoefenen op de algoritmes die zij gebruiken, volgens de Autoriteit Persoonsgegevens (AP). De AP, een privacywaakhond, waarschuwt dat computersystemen die worden ingezet voor bijvoorbeeld fraudecontrole vaak te veel risico's met zich meebrengen. De algoritmes kunnen leiden tot discriminatie en kansenongelijkheid.

Algoritmes worden tegenwoordig in bijna alle organisaties gebruikt, variërend van banken en ziekenhuizen tot gemeenten. Zo gebruiken banken algoritmes om illegale betalingen te controleren. Het is echter lastig om alle transacties handmatig te controleren, daarom worden computersystemen ingezet.

Hoewel automatische controles met behulp van algoritmes veel voordelen hebben, waarschuwt de AP dat er ook grote risico's aan verbonden zijn. Als voorbeeld noemt zij het systeem dat de Dienst Uitvoering Onderwijs (DUO) gebruikte om fraude met studiefinanciering te controleren. Uit recent onderzoek van NOS op 3 en Investico bleek dat dit systeem opvallend vaak studenten met een migratieachtergrond beschuldigde van fraude. Ook het toeslagenschandaal, waarbij mensen met een dubbele nationaliteit onterecht als fraudeur werden bestempeld, wordt aangehaald.

De AP meent dat organisaties beter moeten proberen dit soort gevallen te voorkomen. AP-voorzitter Aleid Wolfsen stelt: "Het gebeurt nu te vaak dat een algoritme met goede bedoelingen wordt ingezet, maar in de praktijk verkeerd uitpakt. Wanneer je een algoritme gebruikt, moet je precies weten welk doel je wilt bereiken."

Volgens de AP gaat het vaak mis doordat algoritmes worden ingezet voordat er goed is nagedacht over hun exacte functie en werkwijze. Wolfsen benadrukt dat er vaak verzuimd wordt om zorgvuldig te denken en testen, bijvoorbeeld met behulp van testdata, over de mogelijke uitkomsten van het algoritme.

Een illustratief voorbeeld van een situatie waarbij dit misging, is het gebruik van een systeem door het UWV om te controleren of mensen met een WW-uitkering illegaal in het buitenland verbleven. Hierbij werd het surfgedrag van alle bezoekers van de UWV-website gevolgd, zelfs als er geen concrete reden voor was. Dit bleek uit onderzoek van de NOS en Nieuwsuur. Het vaste advocatenkantoor van de overheid concludeerde dat deze vorm van monitoring veel te ver ging.

Wolfsen benadrukt dat dit voorbeeld aantoont hoe het verkeerd kan gaan: "Het systeem werd eerst ingezet en pas daarna bleek dat het niet goed functioneerde. Dit moet precies andersom gebeuren: eerst testen, eerst laten beoordelen en dan pas implementeren. Anders gaat het gegarandeerd mis."

Om dit te bereiken, moeten overheidsorganisaties en bedrijven meer specialisten aantrekken, stelt de AP. Mensen met diepgaande kennis van algoritmes moeten worden aangenomen. Ook is het essentieel dat er leidinggevenden met digitale expertise aanwezig zijn, zodat iedereen op de hoogte is van de mogelijkheden en consequenties.

Naast de verantwoordelijkheid van individuele organisaties roept de AP ook het demissionaire kabinet op om actie te ondernemen. Het kabinet zou duidelijkere regels moeten opstellen voor het gebruik van algoritmes en kunstmatige intelligentie. Wolfsen benadrukt dat om de kansen te benutten, de risico's goed beheerd moeten worden. Hoewel het bewustzijn hierover groeit, zoeken veel overheden en bedrijven nog naar de juiste aanpak. Daarom is duidelijke regelgeving van cruciaal belang.

De Autoriteit Persoonsgegevens is de instantie die to