OpenAI trekt tool terug voor herkenning van AI-gegenereerde content

Gepubliceerd op 26/07/2023 04:00 in Tech

ChatGPT-ontwikkelaar OpenAI heeft besloten om een tool terug te trekken die bedoeld was om docenten te helpen AI-gegenereerde teksten te herkennen. De tool was gelanceerd slechts een half jaar geleden, maar volgens OpenAI was het systeem niet nauwkeurig genoeg.

OpenAI zal de komende tijd aan de slag gaan met feedback om te proberen een betrouwbaarder systeem te ontwikkelen. Het doel blijft om in de toekomst een tool te creëren waarmee gebruikers kunnen verifiëren of tekst, audio of video authentiek is of gegenereerd is door AI.

Het besluit van OpenAI benadrukt hoe moeilijk het is om, zelfs voor de ontwikkelaars, een betrouwbaar systeem op te zetten dat AI-gegenereerde content kan herkennen. Bij de lancering in januari gaf het bedrijf al aan dat de tool gebreken had. In 9 procent van de gevallen werden handgeschreven teksten ten onrechte als AI-content aangemerkt. Volgens OpenAI nam de betrouwbaarheid toe naarmate de tekst langer was.

De nu teruggetrokken tool was voornamelijk bedoeld als hulpmiddel voor docenten. Steeds vaker werden zij geconfronteerd met leerlingen die gebruikmaakten van tekstgeneratoren zoals ChatGPT voor opdrachten. In januari uitten docenten hun zorgen hierover bij de NOS. Zij gaven aan dat zij niet konden bepalen of een tekst door een leerling zelf was geschreven of door een computer. Bijna alle leerlingen die door de NOS werden geïnterviewd en ChatGPT gebruikten, beweerden dat zij nooit betrapt werden.

Het terugtrekken van de tool is een stap terug voor OpenAI, die hoopte een oplossing te bieden voor het toenemende probleem van AI-gegenereerde content in het onderwijs. Door de tool kunnen docenten echter niet langer vertrouwen op een betrouwbaar systeem om geproduceerde teksten te identificeren.

Hoewel OpenAI teleurgesteld is dat hun tool niet aan de verwachtingen heeft voldaan, zien zij dit als een kans om hun systeem te verbeteren. Het is duidelijk dat er meer werk nodig is om een effectieve tool te ontwikkelen die in staat is om AI-gegenereerde content betrouwbaar te identificeren.

Het is van groot belang dat docenten en andere gebruikers de mogelijkheid hebben om te bepalen of content authentiek is of gegenereerd door AI. Het vermogen om onderscheid te maken tussen menselijke en AI-gegenereerde content is essentieel in een tijd waarin technologie steeds geavanceerder wordt.

OpenAI zal nu de feedback van gebruikers gebruiken om hun systeem te verbeteren en hopelijk een effectievere tool te ontwikkelen. Het bedrijf blijft vastbesloten om te werken aan oplossingen die gebruikers in staat stellen om met vertrouwen de echtheid van content te beoordelen in een wereld waarin AI een steeds grotere rol speelt.