Alors que plusieurs cas de fraude scientifique ont récemment agité de milieu de la recherche, l'éditeur Springer annonce le lancement de deux nouveaux outils d'intelligence artificielle destinés à détecter les articles et les images contenant du contenu généré par l’IA générative. Dans le viseur de l'éditeur, les "usines à papiers " (papermills) qui vendent des articles scientifiques falsifiés au mépris de toute rigueur scientifique.
Le premier, baptisé Geppetto, vise à repérer du texte produit par une IA. "Geppetto fonctionne en divisant l'article en sections et en utilisant ses propres algorithmes pour vérifier la cohérence du texte dans chaque section" explique Springer Nature ; "les sections reçoivent ensuite un score basé sur la probabilité que le texte soit généré par l’IA." Sur la base de ce score, une alerte peut être lancée et déclencher une vérification humaine par l'éditeur. Ce dernier indique avoir déjà identifié des centaines d’articles frauduleux dès leur soumission et avant publication.
Processus de soumission d'articles
Deuxième outil, SnappShot, a pour objectif d'attester de l'intégrité des images. Fonctionnant lui aussi grâce à l'IA, il déclenche une alerte lorsque une évaluation humaine apparaît nécessaire. Selon Chris Graf, Directeur de l'intégrité scientifique chez Springer Nature, "le secteur de l'édition est confronté à une menace déterminée et malintentionnée de la part des 'papermills' ou des acteurs malveillants qui soumettent de faux articles avec des données fabriquées. Ces tentatives peuvent sérieusement compromettre la confiance en la science, tout en mobilisant beaucoup de ressources pour les résoudre après de longues investigations."
Face à l'avalanche annoncée de cas de fraude scientifique, Springer Nature a procédé l'an dernier à l'acquisition de Slimmer AI Science. Objectif : mettre en place des outils d'intelligence artificielle capable de détecter les risques tels que le plagiat et de sécuriser le processus de soumission d'articles.
