Voorlopig akkoord over Europese regels voor kunstmatige intelligentie (AI)

Gepubliceerd op 11/12/2023 19:00 in Tech

Na intensieve onderhandelingen is er sinds vrijdag een voorlopig akkoord bereikt over Europese regels voor kunstmatige intelligentie (AI). Hoewel veel details nog onduidelijk zijn en de regels pas later van kracht zullen zijn, zal deze wet grote gevolgen hebben voor AI in Europa.

De afgelopen jaren is AI in toenemende mate verweven geraakt met onze samenleving en deze trend zal naar verwachting voortzetten. Het doel van deze nieuwe wet is om ervoor te zorgen dat bedrijfssystemen niet ontsporen en dat het gebruik ervan door opsporingsdiensten aan regels gebonden is.

Hieronder worden vier vragen beantwoord over wat er is afgesproken.

Wat zijn de nieuwe verboden?

De verboden vormden het meest controversiële onderdeel van de wet en er is dagenlang over gediscussieerd. Uiteindelijk is er compromis bereikt over het verbod op realtime gezichtsherkenning op afstand. Het wordt onder andere verboden om ongericht data van gezichten te verzamelen van internet of beelden van beveiligingscamera's te gebruiken om een gezichtsherkenningsdatabase op te bouwen. Ook is het verboden om AI in te zetten voor 'predictive policing', waarbij op basis van data geprobeerd wordt misdaden te voorspellen. Daarnaast zijn de technische aspecten die hebben geleid tot het toeslagenschandaal nu verboden.

Er zijn echter drie uitzonderingen gemaakt waarin opsporingsdiensten onder bepaalde voorwaarden wel gebruik mogen maken van gezichtsherkenning. Deze uitzonderingen gelden voor situaties waarin het leven van een slachtoffer in gevaar is, bij een directe dreiging zoals een aanslag, en bij bepaalde misdaden waarbij al een verdachte in beeld is, zoals terrorisme, mensenhandel en seksuele uitbuiting. Toestemming van een rechter, een mensenrechtentoets en de zoektocht naar een specifiek persoon zijn vereist in deze gevallen.

Zijn er strenge regels voor chatbots?

Chatbots vallen onder de categorie 'general purpose AI', wat betekent dat ze geen specifiek doel hebben en voor verschillende doeleinden kunnen worden gebruikt. De strengheid van de regels is afhankelijk van hun impact. Voor alle systemen geldt dat het duidelijk moet zijn hoe ze werken, op basis van welke data ze getraind zijn en of ze auteursrechten schenden. Ook moet er duidelijkheid zijn over hun energieverbruik.

De strengste regels zijn alleen van toepassing op de 'meest geavanceerde' modellen. Het is echter nog niet bekend welke bedrijven hier precies onder vallen. Makers van deze modellen moeten testen of ze accuraat en goed beveiligd zijn, en ze moeten de grootste risico's identificeren en aanpakken. Sommige bedrijven, zoals ChatGPT-maker OpenAI, nemen al deze maatregelen zonder dat ze wettelijk verplicht zijn.

Vallen Europese bedrijven ook onder de regels?

Ja, Europese bedrijven vallen ook onder de regels, maar de verplichtingen kunnen per bedrijf verschillen. Volgens de Spaanse minister voor Digitalisering en AI krijgen alle Europese bedrijven "zeer lichte verplichtingen". In de lobby voorafgaand aan de onderhandelingen werden twee Europese bedrijven vaak genoemd, Mistral AI en Aleph Alpha, maar zij vallen nu nog niet onder de strenge regels vanwege hun beperkte impact.

Wat betekent deze wet voor consumenten?

Bedrijven en overheden hebben nu de taak om in de komende een tot twee jaar te evalueren of er aanpassingen nodig zijn bij het gebruik van AI. Voor consumenten moet het in de toekomst duidelijk zijn wanneer ze te maken hebben met een chatbot of met door AI gegenereerd materiaal. Verder moet er meer transparantie komen over hoe AI tot bepaalde keuzes komt en zal er een klachtenprocedure worden ingesteld.