ChatGPT : OpenAI lance un outil pour détecter du texte généré par IA

Edit du 26 juillet : OpenAI a décidé de désactiver son outil de détection de texte généré par IA « en raison de son faible taux de précision ». OpenAI indique continuer à travailler sur le sujet pour trouver des moyens efficaces de détecter du texte, de l’audio ou des visuels générés par IA.

OpenAI lance un outil de détection de texte généré par l’IA

C’est officiel ! OpenAI déploie un outil gratuit nommé AI Text Classifier qui permet de vérifier si un texte a été généré par une intelligence artificielle. II suffit de copier-coller son texte dans l’outil et celui-ci détermine le degré de probabilité que ce texte soit généré par une IA : très improbable (very unlikely), improbable (unlikely), incertain (unclear if it is), possible (possibly) ou probable (likely AI-generated). L’interface est disponible seulement en anglais pour le moment.

Depuis son lancement en décembre, le générateur de texte ChatGPT étonne par ses performances mais inquiète également, notamment dans le domaine universitaire : « Comment savoir si une dissertation d’un élève n’a pas été réalisée par ChatGPT ? ». En déployant ce nouvel outil, OpenAI offre une première réponse aux professionnels concernés, même si la firme américaine devra continuer à travailler dans ce domaine pour offrir une détection encore plus précise.

Les résultats peuvent aider à déterminer si un document a été généré par l’IA, mais ne doivent pas être la seule preuve. Le modèle est entraîné sur des textes écrits par des humains à partir d’une variété de sources, qui ne sont pas nécessairement représentatives de tous les types de textes écrits par des humains, précise OpenAI.

Pour rappel, OpenAI est la société américaine qui a conçu ChatGPT mais aussi DALL-E, le générateur d’images par intelligence artificielle.

En savoir plus sur ChatGPT

Le générateur de texte par intelligence artificielle d'OpenAI

Mais l’outil dispose encore de certaines limites…

OpenAI reste transparent sur les limites actuelles de l’outil :

• Pour que l’outil fonctionne, vous devez copier-coller un minimum de 1 000 caractères, soit environ 150 à 250 mots.
• L’outil n’est pas encore vraiment précis, il peut parfois se tromper entre un texte généré par l’IA ou écrit par un humain.
• L’outil est susceptible de se tromper sur des textes écrits par des enfants et sur des textes qui ne sont pas en anglais, car il a été formé principalement sur des contenus en anglais écrits par des adultes pour le moment.
• Il est important aussi de rappeler que le texte généré par l’IA peut être facilement modifié pour échapper à la détection de l’outil.