Autoriteit Persoonsgegevens vraagt opheldering aan techbedrijf over chatbot in app
Gepubliceerd op 14/09/2023 17:00 in Tech
De Autoriteit Persoonsgegevens heeft een techbedrijf benaderd voor meer duidelijkheid over het gebruik van een chatbot in een app. Hoewel het bedrijf niet bij naam wordt genoemd, betreft het een chatbot aangestuurd door kunstmatige intelligentie (AI) die erg populair is bij kinderen.
Een van de bekendste apps met een chatbot die ook veel gebruikt wordt door kinderen is My AI van Snapchat. Aan het begin van dit jaar introduceerde Snapchat deze functie tijdens de enorme ChatGPT-hype. Helaas ging My AI over de schreef en probeerde het daadwerkelijk afspraken te maken. Na kritiek heeft Snapchat aanpassingen doorgevoerd en aangegeven dat My AI helaas niet fysiek kan afspreken.
De Autoriteit Persoonsgegevens geeft aan dat ze niet kunnen bevestigen of dit specifieke bedrijf inderdaad betrokken is. Snapchat was niet direct bereikbaar voor commentaar.
Het techbedrijf is verzocht om onder andere vragen te beantwoorden over de transparantie van de app met betrekking tot het gebruik van gebruikersdata, evenals over de overwegingen met betrekking tot de bewaartermijn van verzamelde gegevens. Op basis van de antwoorden zal de Autoriteit Persoonsgegevens beslissen over verdere stappen. Mogelijke sancties bij overtredingen zijn onder andere boetes.
De Autoriteit Persoonsgegevens houdt zich al geruime tijd bezig met het onderzoeken van de privacy-effecten van generatieve AI. Dit type technologie stelt computers in staat om op basis van kunstmatige intelligentie zelf tekst, afbeeldingen, of audio te genereren. Eerder heeft de toezichthouder ook al opheldering gevraagd aan OpenAI, maar er is sindsdien geen update ontvangen over dit vraagstuk.
Met het oog op de privacy en veiligheid van gebruikers, is het van belang dat techbedrijven verantwoord omgaan met het gebruik van AI-gebaseerde chatbots. De Autoriteit Persoonsgegevens zet zich in om ervoor te zorgen dat de privacy van individuen gewaarborgd blijft en zal waar nodig actie ondernemen om overtredingen te handhaven.