En Vedette Nouvelles Nouvelles générales
Détection des textes générés par l’IA

Les grands modèles de langage comme ChatGPT écrivent incroyablement bien – si bien, en fait, qu’ils sont devenus un problème. Les étudiants ont commencé à utiliser ces modèles pour écrire des devoirs fantômes, ce qui a conduit certaines écoles à interdire ChatGPT.

En outre, ces modèles sont également enclins à produire du texte avec des erreurs factuelles, de sorte que les lecteurs méfiants peuvent vouloir savoir si des outils d’IA génératifs ont été utilisés pour écrire des articles de nouvelles ou d’autres sources avant de leur faire confiance.

Que peuvent faire les enseignants et les consommateurs ? Les outils existants pour détecter le texte généré par l’IA fonctionnent parfois mal sur les données qui diffèrent de ce sur quoi ils ont été formés. De plus, si ces modèles classent faussement l’écriture humaine réelle comme générée par l’IA, ils peuvent mettre en péril les étudiants dont le dont le travail authentique est remis en question.

BAIR, le centre de recherche en intelligente artificielle de l’Université de Californie, à Berkeley, a mis au point Ghostbuster, une méthode de pointe pour détecter le texte généré par l’IA. Ghostbuster fonctionne en trouvant la probabilité de générer chaque élément dans un document sous plusieurs modèles de langage plus faibles, puis en combinant des fonctions basées sur ces probabilités comme entrée pour un classificateur final.

Ghostbuster n’a pas besoin de savoir quel modèle a été utilisé pour générer un document, ni la probabilité de générer le document sous ce modèle spécifique. Cette propriété rend Ghostbuster particulièrement utile pour détecter le texte potentiellement généré par un modèle inconnu ou un modèle de boîte noire, tels que les modèles commerciaux populaires ChatGPT et Claude, pour lesquels les probabilités ne sont pas disponibles.
https://bair.berkeley.edu/blog/