Teksten gemaakt door ChatGPT zijn meestal niet zomaar te onderscheiden van teksten geschreven door mensen. De chatbot levert onder andere in het onderwijs problemen op. Het programma kan bijvoorbeeld antwoorden op toetsvragen geven.

ChatGPT-ontwikkelaar OpenAI waarschuwt dat AI Text Classifier niet betrouwbaar is. In Engelstalige tests haalde het programma 26 procent van door kunstmatige intelligentie geschreven teksten eruit. Het programma merkte teksten geschreven door mensen in 9 procent van de tests foutief aan als "waarschijnlijk door AI geschreven".

Hoe langer de ingevoerde tekst is, hoe groter de kans dat AI Text Classifier kan herkennen of de tekst door een mens is geschreven. Bij teksten met minder dan duizend tekens is het programma erg onbetrouwbaar, waarschuwen de makers.

De ontwikkelaars van ChatGPT hebben het programma gratis beschikbaar gesteld. Hoewel de software volgens de makers nog niet perfect is, willen ze van gebruikers horen of deze toch een uitkomst kan bieden. Daarnaast werken ze nog aan verbeteringen.

OpenAI raadt aan de beoordeling van een tekst niet geheel te baseren op de AI Text Classifier. Wel kan het volgens de makers een aanvulling zijn op andere methoden om de bron van een tekst te bepalen.