Publicité

Contre la fraude scientifique, Springer Nature mise sur l'intelligence artificielle

  • springer_nature-ia.jpg

    Contre-fraude-scientifique-Springer-Nature-mise-sur-intelligence-artificielle
    L'IA face à l'avalanche annoncée de cas de fraude scientifique (Freepik Premium / DC Studio)
  • Le groupe éditorial allemand lance deux nouveaux outils d'IA destinés à détecter les articles et les images produits par l’IA générative.

    Alors que plusieurs cas de fraude scientifique ont récemment agité de milieu de la recherche, l'éditeur Springer annonce le lancement de deux nouveaux outils d'intelligence artificielle destinés à détecter les articles et les images contenant du contenu généré par l’IA générative. Dans le viseur de l'éditeur, les "usines à papiers " (papermills) qui vendent des articles scientifiques falsifiés au mépris de toute rigueur scientifique.

    Le premier, baptisé Geppetto, vise à repérer du texte produit par une IA. "Geppetto fonctionne en divisant l'article en sections et en utilisant ses propres algorithmes pour vérifier la cohérence du texte dans chaque section" explique Springer Nature ; "les sections reçoivent ensuite un score basé sur la probabilité que le texte soit généré par l’IA." Sur la base de ce score, une alerte peut être lancée et déclencher une vérification humaine par l'éditeur. Ce dernier indique avoir déjà identifié des centaines d’articles frauduleux dès leur soumission et avant publication.

    Processus de soumission d'articles

    Deuxième outil, SnappShot, a pour objectif d'attester de l'intégrité des images. Fonctionnant lui aussi grâce à l'IA, il déclenche une alerte lorsque une évaluation humaine apparaît nécessaire. Selon Chris Graf, Directeur de l'intégrité scientifique chez Springer Nature, "le secteur de l'édition est confronté à une menace déterminée et malintentionnée de la part des 'papermills' ou des acteurs malveillants qui soumettent de faux articles avec des données fabriquées. Ces tentatives peuvent sérieusement compromettre la confiance en la science, tout en mobilisant beaucoup de ressources pour les résoudre après de longues investigations."

    Face à l'avalanche annoncée de cas de fraude scientifique, Springer Nature a procédé l'an dernier à l'acquisition de Slimmer AI Science. Objectif : mettre en place  des outils d'intelligence artificielle capable de détecter les  risques tels que le plagiat et de sécuriser le processus de soumission d'articles.

     

     

     

    À lire sur Archimag
    Les podcasts d'Archimag
    Rencontre avec Stéphane Roder, le fondateur du cabinet AI Builders, spécialisé dans le conseil en intelligence artificielle. Également professeur à l’Essec, il est aussi l’auteur de l’ouvrage "Guide pratique de l’intelligence artificielle dans l’entreprise" (Éditions Eyrolles). Pour lui, "l’intelligence artificielle apparaît comme une révolution pour l’industrie au même titre que l’a été l’électricité après la vapeur".

    Serda Formation Veille 2025