AI-pionier Geoffrey Hinton bezorgd om risico's kunstmatige intelligentie en pleit voor wetgeving

Gepubliceerd op 03/05/2023 01:00 in Tech

Geoffrey Hinton, een 75-jarige Brits-Canadese computerwetenschapper en pionier op het gebied van kunstmatige intelligentie (AI), heeft ontslag genomen bij Google omdat hij zich zorgen maakt over de potentiële gevaren van zijn levenswerk. Hinton was een van de grondleggers van deep learning, de technologie die nu door veel AI-systemen wordt gebruikt. Hij is bezorgd dat de concurrentiestrijd onder techbedrijven de ontwikkeling van AI-systemen te snel stuwt, waardoor het internet kan worden overspoeld met computergegenereerde flauwekul, zoals bijvoorbeeld gegenereerde teksten, plaatjes en video's die voor de gemiddelde gebruiker niet van echt te onderscheiden zijn.

Hinton vreest ook dat AI banen kan veranderen of overnemen, bijvoorbeeld die van vertalers of juridisch medewerkers. Op de lange termijn maakt hij zich zelfs zorgen dat AI-systemen hun eigen programma's zowel kunnen schrijven als actief kunnen uitvoeren, met als voorbeeld autonome wapens, oftewel killer-robots.

Hoogleraar kunstmatige intelligentie Frank van Harmelen, die zelf jaren na Hinton promoveerde aan de Universiteit van Edinburgh, beaamt dat er potentieel maatschappelijk nadelige gevolgen zijn bij het gebruik van AI. Zo kunnen de systemen desinformatie verspreiden, omdat ze convincing bullshitters genoemd worden, oftewel overtuigende praatjesmakers. Een ander probleem is dat AI zelf zaken bij elkaar gaat "hallucineren" als de systemen naar het antwoord gissen, wat kan leiden tot brokken als gewone burgers deze techniek ter beschikking krijgen.

Hinton pleit daarom voor AI-wetgeving, een oproep die veel weerklank vindt onder wetenschappers. Vanuit de Europese Commissie wordt gewerkt aan de AI Act, die AI-systemen moet categoriseren en per categorie aan regels onderwerpen. Daarnaast moet er volgens Van Harmelen meer wetenschappelijke ontwikkeling komen over deze systemen, omdat zelfs de mensen die deze bouwen niet begrijpen wat ze kunnen.

Hinton, die zijn vertrek bij Google nadrukkelijk niet wil uitleggen als kritiek op het techbedrijf, hoopt dat er snel wetgeving komt om de risico's van AI te beperken.