Richtingenstrijd bij OpenAI onthult zorgen over ontwikkeling van kunstmatige intelligentie
Gepubliceerd op 03/12/2023 11:00 in Tech
Deze week vierde OpenAI de eerste verjaardag van ChatGPT. Maar vorige maand leek het er nog even op dat de toekomst van het bedrijf op het spel stond door een grote crisis. Het legde een interne richtingenstrijd bloot waar het laatste woord nog niet over is gezegd.
De strijd draait om de vraag of de ontwikkeling van kunstmatige intelligentie (AI) versneld moet worden of juist afgeremd. Voorstanders van versnelde ontwikkeling geloven dat dit zal leiden tot het oplossen van grote problemen. Tegenstanders, daarentegen, maken zich zorgen dat winstbejag de overhand heeft gekregen over verantwoorde technologische vooruitgang.
OpenAI heeft als uiteindelijk doel om 'AGI' (artificial general intelligence) te creëren, oftewel computers die slimmer zijn dan mensen. De mogelijke impact hiervan op de samenleving baart zowel hoop als zorgen. Sommigen vrezen dat AI uiteindelijk bepaalt wat het beste is voor de mensheid en zelfs zou kunnen besluiten om deze uit te roeien. Anderen maken zich meer zorgen over de reeds bestaande gevaren, zoals de verspreiding van misinformatie.
OpenAI-ceo Sam Altman, die vorige maand ontslagen werd, gelooft dat de positieve effecten van AI groter zullen zijn dan de negatieve effecten. Echter, niet iedereen bij OpenAI deelt deze visie. Ilya Sutskever, mede-oprichter van het bedrijf, is steeds meer overtuigd geraakt van de kracht van de technologie, maar is tevens bezorgd over de mogelijke gevaren ervan. Hij heeft Altman zelfs ontslagen, om daar later spijt van te krijgen.
Daarnaast wordt er gespeculeerd over een mogelijke technologische 'doorbraak' bij OpenAI genaamd "Q*". Deze doorbraak zou de systemen van OpenAI nog krachtiger maken en onder andere in staat zijn om wiskundige problemen op te lossen die andere AI-varianten te moeilijk vinden. Medewerkers van het bedrijf zouden zich zorgen hebben gemaakt over onvoldoende veiligheidswaarborgen en het bestuur hiervoor hebben gewaarschuwd. Het is echter niet duidelijk of deze zorgen hebben bijgedragen aan het ontslag van Altman.
Deskundigen benadrukken dat regelgeving noodzakelijk is voor de ontwikkeling van AI. In Europa wordt gewerkt aan regels, maar er is ook weerstand van landen als Duitsland, Frankrijk en Italië, uit angst dat strenge regels Europese bedrijven zullen hinderen. Ook OpenAI heeft zich actief beziggehouden met het lobbyen voor regelgeving.
De richtingenstrijd bij OpenAI en de zorgen over AI-ontwikkeling illustreren de complexiteit en mogelijke risico's van kunstmatige intelligentie. Het is van groot belang dat er een evenwichtige aanpak wordt gehanteerd, waarbij zowel de positieve effecten als de mogelijke negatieve consequenties worden meegewogen. Tegelijkertijd is het van belang dat er regelgeving komt om de ontwikkeling van AI in goede banen te leiden en potentiële gevaren te beheersen.