Biais, risques et problématiques liés à la détection I.A.
L’intelligence artificielle, caractérisée par la faculté d’une machine à reproduire des activités normalement effectuées par des êtres humains, a bouleversé notre perception du monde.
Largement répandue dans de nombreux secteurs, et notamment le milieu de l’écriture et de l’enseignement, elle suscite de nombreuses interrogations.
Ayant à cœur d’utiliser tous les avantages de cette nouvelle forme d’intelligence aux services de l’enseignement et de l’éducation, nous avons perfectionné nos outils QuillBot pour vous livrer la meilleure expérience possible.
Récemment, une étude sur le manque de fiabilité de sept détecteurs d’I.A. largement utilisés (Liang et al., 2023) a tout particulièrement retenu notre attention. Décryptage.
Résumé de l’étude
Sept détecteurs GPT ont été passés au crible par des chercheurs afin d’analyser leur manière de classer des essais rédigés par des locuteurs natifs et non natifs de l’anglais.
- Les chercheurs ont collecté des essais rédigés par des personnes dont l’anglais n’est pas la langue maternelle (lors d’un test de compétence en anglais TOEFL – acronyme dont la forme abrégée signifie « Test of English as a Foreign Language ») et des essais rédigés par des personnes dont l’anglais est la langue maternelle (8 années d’étude).
- Les essais ont été soumis à l’analyse des détecteurs. Résultat : si les détecteurs ont généralement classé les essais des anglophones natifs de manière tout à fait correcte, les considérant comme générés par des êtres humains, ils ont cependant analysé de manière erronée plus de la moitié des essais rédigés par des locuteurs non natifs, les considérant comme générés par l’IA.
- Les chercheurs ont alors utilisé l’IA pour modifier ces écrits.
- Lorsque ChatGPT a été utilisé pour améliorer le vocabulaire utilisé au sein des essais du TOEFL, les détecteurs étaient moins susceptibles de signaler les textes comme étant générés par l’IA ;
- Lorsque ChatGPT a été utilisé pour simplifier le vocabulaire des essais écrits par les étudiants ayant 8 ans d’étude, les détecteurs ont été plus enclins à signaler les textes comme étant générés par l’IA.
Le principe de fonctionnement des détecteurs d’IA consiste à s’appuyer sur des mesures de prévisibilité du texte : les écrits rédigés par les apprenants étant généralement moins complexes, et donc plus prévisibles que ceux des locuteurs natifs, ils sont plus susceptibles d’être signalés par les détecteurs.
Pourquoi ces données sont-elles importantes ?
Cette étude vient confirmer ce que de nombreux étudiants et enseignants avaient déjà constaté : les détecteurs d’IA traditionnels livrent une analyse biaisée des écrits des apprenants.
Ces défaillances des détecteurs d’IA peuvent alors avoir de graves conséquences pour les étudiants et les universitaires, car de nombreuses écoles et organisations les utilisent pour détecter le plagiat.
Des dizaines de millions d’apprenants écrivent en anglais à toutes sortes de fins et utilisent souvent des correcteurs d’orthographe et de grammaire couplés à des reformulateurs de textes, de manière tout à fait conforme. Dans la situation actuelle, ils risquent cependant des sanctions de plagiat, avec toutes les répercussions qui en découlent.
Notre solution QuillBot : un meilleur détecteur d’IA
Les outils d’IA sont amenés à être de plus en plus présents dans notre quotidien, comme le confirme leur utilisation croissante.
C’est pourquoi nous avons pensé et élaboré un détecteur d’IA à la pointe de la technologie, destiné aux étudiants et aux enseignants : avec sa détection ultra-précise, il permet de profiter de tous les avantages de l’IA sans risque de sanctions liées au plagiat.
Le détecteur d’IA QuillBot présente de nombreux avantages par rapport à ses concurrents :
- Il a été conçu exclusivement pour les rédacteurs et fonctionne aussi bien pour les étudiants que pour les enseignants ;
- Il fournit une analyse approfondie du texte et fait une parfaite distinction entre le texte généré par l’IA et le texte légèrement modifié par l’IA. Cette subtilité permet d’éviter les faux positifs ainsi que les possibles préjugés à l’encontre des étudiants dont l’anglais n’est pas la langue maternelle et qui utilisent les correcteurs conformément aux normes ;
- Il est gratuit et accessible à tous.
Nous sommes ravis d’avoir mis au point cette technologie, véritable aide à la rédaction, et avons à cœur de toujours repousser les limites du possible en matière de détection d’I.A.
Prêt(e)s à découvrir notre nouvel outil ?
Références
Liang, Weixin, et al. “GPT detectors are biased against non-native English writers”. Patterns, vol. 4, nº 7, juillet 2023, p. 100779.
