OpenAI, le créateur du populaire chatbot ChatGTP, Sam Altman, a publié un outil logiciel permettant d’identifier les textes générés par l’intelligence artificielle, a indiqué la société dans un billet de blog mercredi.
ChatGPT est un programme gratuit qui génère du texte en réponse à une invite, y compris des articles, des essais, des blagues et même de la poésie, qui a gagné une grande popularité depuis ses débuts en novembre, tout en suscitant des inquiétudes quant aux droits d’auteur et au plagiat.
Le classificateur d’IA, un modèle de langage formé sur l’ensemble de données de paires de textes écrits par des humains et par l’IA sur le même sujet, vise à distinguer les textes écrits par l’IA. Il fait appel à divers fournisseurs pour résoudre des problèmes tels que les campagnes de désinformation automatisées et la malhonnêteté académique, a indiqué l’entreprise.
Dans son mode bêta public, OpenAI reconnaît que l’outil de détection est très peu fiable sur les textes de moins de 1 000 caractères et que le texte écrit par l’IA peut être modifié pour tromper le classificateur.
« Nous mettons ce classificateur à la disposition du public afin d’obtenir des commentaires sur l’utilité d’outils imparfaits comme celui-ci », a déclaré OpenAI.
« Nous reconnaissons que l’identification de textes écrits par l’IA a été un point de discussion important parmi les éducateurs, et il est tout aussi important de reconnaître les limites et les impacts des classificateurs de textes générés par l’IA en classe. »
Depuis que ChatGPT a fait ses débuts en novembre et a gagné une grande popularité auprès de millions d’utilisateurs, certains des plus grands districts scolaires américains, dont la ville de New York, ont interdit le chatbot IA par crainte que les élèves utilisent le générateur de texte pour tricher ou plagier.
D’autres ont créé des outils de détection tiers, dont GPTZeroX, pour aider les éducateurs à détecter les textes générés par l’IA.
OpenAI a déclaré qu’elle s’engageait auprès des éducateurs à discuter des capacités et des limites de ChatGPT et qu’elle continuerait à travailler sur la détection des textes générés par l’IA.
