ChatGPT verspreidt urenlang onzin vanwege een fout

ChatGPT produceerde urenlang onsamenhangende tekst als gevolg van een fout in de systemen van OpenAI. Volgens OpenAI werd deze situatie veroorzaakt door een fout in de manier waarop het model tekstfragmenten analyseert en vervolgens antwoorden genereert.

Mensen die in de nacht van dinsdag op woensdag vragen stelden aan ChatGPT kregen vreemde antwoorden. Op platforms zoals X en Reddit deelden verschillende gebruikers de onbegrijpelijke antwoorden die het AI-systeem produceerde. Bijvoorbeeld, een Reddit-gebruiker vroeg wat een computer is, waarop ChatGPT onder andere antwoordde: “Het doet dit goede werk van een web van kunst voor het land, een muis van de wetenschap, een gemakkelijke trekking van een triest paar…”

OpenAI, het bedrijf achter ChatGPT, heeft inmiddels vastgesteld dat het probleem veroorzaakt werd door een fout die werd geïntroduceerd na een optimalisatie aan de gebruikerservaring, zoals beschreven op de statuspagina van het bedrijf. Het grote taalmodel van ChatGPT werkt op basis van tokens; tekstfragmenten die gekoppeld zijn aan numerieke waarden. “In dit geval lag de fout in de stap waarin het model deze numerieke waarden selecteerde,” legt OpenAI uit.

Volgens het bedrijf koos het model per ongeluk de verkeerde numerieke waarden, wat resulteerde in zinnen die geen betekenis hadden. “Meer technisch gezien leverden de inferentiekernels onjuiste resultaten op wanneer ze werden gebruikt in bepaalde gpu-configuraties.”