Kritiek op OpenAI: te weinig aandacht voor risico's van kunstmatige intelligentie
Gepubliceerd op 05/06/2024 14:00 in Tech
Een groep van negen huidige en voormalige medewerkers van techbedrijf OpenAI heeft in een open brief laten weten dat het bedrijf niet genoeg doet om te voorkomen dat kunstmatige intelligentie-systemen gevaarlijk worden. Volgens hen richt OpenAI zich te veel op winst maken en groeien, zonder voldoende aandacht te besteden aan de risico's van de technologie. De briefschrijvers missen effectief toezicht binnen het bedrijf.
OpenAI staat bekend als het bedrijf achter geavanceerde AI-systemen zoals ChatGPT en Sora, waarmee tekst kan worden omgezet in realistische video's. De (oud-)werknemers van OpenAI stellen echter dat er bij de ontwikkeling van deze krachtige AI-systemen sprake is van een cultuur van roekeloosheid en geheimzinnigheid.
Daarnaast uiten de briefschrijvers kritiek op OpenAI vanwege het gebruik van 'keiharde tactieken' om medewerkers te weerhouden hun zorgen te delen over de technologieën van het bedrijf. Ook wordt er opgeroepen tot meer transparantie en bescherming van klokkenluiders binnen de organisatie.
De groep benoemt verschillende risico's van kunstmatige intelligentie, waaronder het versterken van ongelijkheden, verspreiding van desinformatie en het verlies van controle over AI-systemen, wat volgens hen zou kunnen leiden tot het uitsterven van de mensheid.
OpenAI werd oorspronkelijk opgericht als een non-profit onderzoekslab, maar kreeg in 2019 een commerciële tak met steun van een investering van 1 miljard dollar van Microsoft. Vorig jaar ontstond er een richtingenstrijd binnen de organisatie, wat leidde tot het ontslag van topman Sam Altman. Hij keerde echter kort daarna weer terug bij het bedrijf.
De kritiek van de briefschrijvers sluit aan bij eerdere waarschuwingen van onder meer AI-onderzoeker Ilya Sutskever, die ook mede-oprichter is van OpenAI. Een woordvoerder van OpenAI reageert dat het bedrijf trots is op zijn veilige AI-systemen en open staat voor discussie over dit onderwerp.