OpenAI a développé un système capable de détecter les textes générés par ChatGPT avec une précision de 99,9 %, mais a choisi de ne pas le déployer en raison de préoccupations sur son impact potentiel, y compris des accusations de triche injustifiées et une baisse d’utilisation de ChatGPT. Malgré des tests prometteurs, OpenAI adopte une approche prudente pour évaluer les risques et alternatives. Ce choix vise à éviter des effets disproportionnés sur les non-anglophones et les utilisateurs malveillants capables de contourner le système.
Mais le Wall Street Journal a appris qu’OpenAI dispose, depuis environ un an, d’un système efficace pour détecter les textes rédigés par ChatGPT (mais pas par ses concurrents). Selon un document consulté par le journal américain, il serait efficace à 99,9 %. Pour simplifier, ce système consiste à modifier très légèrement la façon dont ChatGPT choisit les mots qui vont se succéder pour composer des phrases, créant ainsi une sorte de motif détectable par un outil spécifique. Cet outil fournit, pour chaque texte analysé, un niveau de probabilité qu’il ait été rédigé par ChatGPT.
