Nederlandse samenleving moet zich voorbereiden op incidenten met kunstmatige intelligentie

Gepubliceerd op 18/07/2024 19:00 in Tech

De Autoriteit Persoonsgegevens waarschuwt dat de Nederlandse samenleving zich moet voorbereiden op incidenten met kunstmatige intelligentie (AI). Volgens de privacytoezichthouder is het gebruik van AI steeds meer aanwezig in de samenleving, wat de kans op incidenten vergroot. Organisaties worden geadviseerd terughoudend te zijn met het gebruik van kunstmatige intelligentie als ze twijfelen of ze de risico's wel onder controle hebben.

Een voorbeeld van een incident met AI is recente oplichting in Azië, waarbij een medewerker van een financiële afdeling een mail ontving om 23 miljoen euro over te maken. Na een online vergadering binnen het bedrijf, waarbij met behulp van AI de financiële topman en collega's waren nagemaakt, werd het geld toch overgemaakt. De opgelichte medewerker was de enige echte persoon in de groep.

De toezichthouder benadrukt dat mensen zich bewust moeten worden van de risico's van AI en meer kennis daarover moeten opdoen. Ook constateert de Autoriteit Persoonsgegevens dat overheden actief bezig zijn met het toezicht op kunstmatige intelligentie en de bestrijding van cybercrime. Echter, gezien de snelle ontwikkelingen in technologie is het volgens de toezichthouder een kwestie van de lange adem.

Uit onderzoek blijkt dat veel raadsleden binnen gemeentes twijfelen aan hun kennis over AI en de systemen die binnen hun organisatie worden gebruikt. De AP pleit voor versterking van kennis binnen deze groep. Daarnaast uit de toezichthouder kritiek op grote bedrijven die haastig toepassingen van AI op de markt willen brengen, wat regelmatig tot problemen leidt en systemen weer moeten worden teruggetrokken.

Om transparantie te bevorderen, houden overheidsdiensten zoals het Rijk, provincies en gemeenten een register bij van de vormen van AI die zij gebruiken. De AP wil dat ook semipublieke organisaties zoals het onderwijs, de zorg en woningcorporaties delen welke vormen van AI zij inzetten, vooral in situaties waarin mensen kwetsbaar zijn.