S’agit-il d’un texte authentique ou d’un faux? Faites la différence grâce à la science!

Les outils technologiques basés sur l’IA comme ChatGPT font la une de la presse. Qu’il s’agisse d’écrire des poèmes dans un style évoquant l’Angleterre du XVIe siècle ou de rédiger des rapports de recherche universitaires, les chatbots conçus pour offrir des services concrets ne sont pas près de disparaître.

À vrai dire, ces acteurs, qui ne sont pas si mauvais que ça, ne vont cesser de s’améliorer. Serons-nous capables de ne pas nous laisser berner par ces modèles de traitement du langage naturel qui sont en train de s’imposer dans notre société?Une équipe de chercheurs de l’école d’ingénierie et de sciences appliquées de l’université de Pennsylvanie, aux États-Unis, a mené la plus grande étude humaine jamais réalisée sur notre capacité à détecter l’IA, en vue de nous donner un coup de pouce. Ils ont recueilli des données à partir du jeu didactique en ligne intitulé «Real or Fake Text?», créé par l’université elle-même.

Les résultats ont été présentés dans un article évalué par des pairs, à l’occasion d’une réunion de l’Association for Advancement of Artificial Intelligence qui s’est tenue en février. L’étude a démontré que nous pouvions apprendre à faire la différence entre les textes écrits par des humains et ceux générés automatiquement.

«Nous avons montré que les gens pouvaient s’entraîner à reconnaître des textes générés par des machines», déclare Chris Callison-Burch, professeur associé au département des sciences informatiques et de l’information (CIS), dans un article publié sur le site web de son école. «Les gens ont certaines idées préconçues concernant le type d’erreurs qu’une machine est susceptible de commettre, mais ces hypothèses ne sont pas nécessairement correctes. À la longue, avec suffisamment d’exemples et d’instructions explicites, nous pouvons apprendre à repérer les types d’erreurs réellement commises par les machines.»«Aujourd’hui, l’IA est étonnamment douée pour produire des textes très fluides et très grammaticaux», explique Liam Dugan, co-auteur de l’étude et doctorant au CIS. «Mais elle commet des erreurs. Nous prouvons que les machines commettent certains types d’erreurs caractéristiques — erreurs de bon sens, erreurs de pertinence, erreurs de raisonnement et erreurs logiques, par exemple — que nous pouvons apprendre à repérer.»

«Les citoyens ont des raisons légitimes de nourrir des inquiétudes à l’égard de l’IA», ajoute Chris Callison-Burch, qui a dirigé l’étude. «Notre étude apporte des éléments de preuve qui devraient apaiser ces préoccupations. Une fois que nous aurons canalisé notre optimisme vis-à-vis des générateurs de textes basés sur l’IA, nous pourrons nous concentrer sur la capacité de ces outils à nous aider à écrire des textes plus imaginatifs et plus intéressants.»

«Pour le moment, j’ai plutôt l’impression que ces technologies se prêtent mieux à l’écriture créative», poursuit-il. «Les reportages d’actualité, les dissertations ou les conseils juridiques sont de mauvais cas d’utilisation parce qu’il n’y a aucune garantie quant à la véracité du contenu.»

Liam Dugan voit les choses du bon côté: «Il y a des directions positives passionnantes vers lesquelles on peut pousser cette technologie. Les gens se focalisent sur les exemples préoccupants, comme le plagiat et les fausses informations, mais nous savons désormais que nous pouvons nous entraîner à devenir de meilleurs lecteurs et écrivains.»

Alors, êtes-vous à la hauteur? Pour le savoir, jouez à l’une des quatre catégories du jeu (nouvelles, articles d’actualité, recettes, discours présidentiels), où vous trouverez des milliers de textes! Et n’oubliez pas qu’en améliorant vos compétences en matière de reconnaissance, vous contribuez également à la recherche universitaire.