Techbedrijven beloven maatregelen te nemen tegen de risico's van AI

Gepubliceerd op 21/07/2023 18:00 in Tech

Zeven Amerikaanse techbedrijven, waaronder Amazon, Google, Microsoft en OpenAI, hebben beloofd een reeks maatregelen te nemen om de maatschappij beter te beschermen tegen de risico's van kunstmatige intelligentie (AI). Hoewel de afspraken vrijblijvend zijn, hebben de bedrijven toegezegd er meteen mee aan de slag te gaan.

Deze toezeggingen werden gedaan tijdens een bijeenkomst in het Witte Huis, waar president Biden aanwezig was. Het Witte Huis heeft om deze maatregelen gevraagd om meer grip te krijgen op de snelgroeiende techindustrie die al op verschillende gebieden in de maatschappij impact heeft en naar verwachting nog verder zal groeien.

De bedrijven zullen zich aan in totaal acht beloftes committeren. Een van deze beloftes omvat het ontwikkelen van een systeem waarmee consumenten door AI gegenereerde content, zoals audio of afbeeldingen, kunnen herkennen. Hierbij wordt gedacht aan een soort watermerk. OpenAI en Google zijn al bezig met deze ontwikkelingen, hoewel het nog onduidelijk is in hoeverre deze systemen al zijn gevorderd en hoe ze in de praktijk zullen functioneren.

Daarnaast zullen de techgiganten zogenaamde "red teaming" gaan toepassen. Dit houdt in dat specialisten de grenzen van een AI-systeem gaan verkennen om te ontdekken wanneer er sprake is van ongewenst gedrag. Bijvoorbeeld bij een chatbot wil men voorkomen dat deze gebruikers advies geeft over het maken van een bom of het hacken van een computer.

Verder zijn de bedrijven van plan om informatie over de veiligheid en betrouwbaarheid van hun AI te delen met overheden en andere bedrijven. Ook beloven zij prioriteit te geven aan onderzoek naar de maatschappelijke risico's van AI, zoals het voorkomen van vooroordelen en discriminatie.

Er bestaat echter twijfel over de mate van vrijheid die de bedrijven zullen hebben om deze beloftes naar eigen inzicht uit te voeren. Als een van de punten om welke reden dan ook niet wordt uitgevoerd, zal dit geen directe consequenties hebben. Hierdoor bestaat het risico dat dit initiatief een lege huls wordt, iets dat weinig voorstelt in de praktijk. Het Witte Huis heeft aangegeven dat president Biden werkt aan een decreet dat bindend zou zijn, terwijl wetgeving vanuit het Congres niet direct wordt verwacht.

In tegenstelling tot de Verenigde Staten is de Europese Unie al geruime tijd bezig met wetgeving omtrent AI. Momenteel wordt er onderhandeld over een wet die specifieke regels zou bevatten voor taalmodellen die essentieel zijn voor generatieve AI-toepassingen, waarbij een systeem op basis van een vraag zelf tekst of afbeeldingen kan genereren.

Er wordt beweerd dat de Amerikaanse regering verdeeld is over de regulering van AI. Sommigen steunen de aanpak van de EU, terwijl anderen vrezen dat te veel regels de concurrentiepositie van Amerika, met name ten opzichte van China, kunnen belemmeren.

Eerder dit jaar werd Sam Altman, CEO van OpenAI, gehoord door het Amerikaanse Congres. Hij is het gezicht geworden van de enorme belangstelling voor generatieve AI, vanwege het succes van ChatGPT. Tijdens de hoorzitting erkende hij de noodzaak van regelgeving, hoewel hij later in opspraak kwam bij de Europese Commissie vanwege zijn suggestie om OpenAI uit Europa terug te trekken vanwege nieuwe regels. Hij heeft deze uitspraak later ingetrokken.