ChatGPT censure les livres des bibliothèques d’une école

  • iowa-chatgpt-censure-livres-bibliotheques-ecole.jpg

    iowa-chatgpt-censure-livres-bibliotheques
    Cette nouvelle loi de mai 2023 vient limiter les livres disponibles dans les bibliothèques et les classes des écoles. (Image de Freepik)
  • Dans l’Iowa, au nord des Etats-Unis, les bibliothèques d’une école utilisent ChatGPT pour bannir les livres qui contiennent une "description ou une représentation d'un acte sexuel" afin de se conformer à la nouvelle loi de l'État. 

    L’école de secteur de la ville de Mason City, dans l'Iowa aux Etats-Unis, a utilisé ChatGPT pour retirer de ses bibliothèques scolaires 19 livres dont les administrateurs ont constaté qu'ils contenaient "une description ou une représentation d'un acte sexuel". Depuis mai 2023, l'État très conservateur a signé une nouvelle loi visant à protéger les mineurs de contenus jugés obscènes qui comportent des “descriptions ou représentations visuelles d’un acte sexuel”.

    Comment l’école a-t-elle déterminé si le livre devait être retiré de ses bibliothèques ? Selon la presse locale le Mason City Globe Gazette, elle a commencé à utiliser ChatGPT pour générer une liste de livres qui pourraient être bannis des bibliothèques pour l’année scolaire 2023/2024. Parmi les livres interdits figurent Les cerfs-volants de Kaboul de Khaled Hosseini, La servante écarlate de Margaret Atwood ou encore Je sais pourquoi l’oiseau chante en cage de Maya Angelou. 

    Lire aussi ChatGPT, IA génératives... Enquête sur les craintes et espoirs des professionnels de l'information

    Censurer un livre en une seule question

    Pour se conformer aux nouvelles exigences de la loi, l’école a dû passer au radar tous les livres de ses bibliothèques. Une mission titanesque, puisqu’elles comportent des milliers d’ouvrages. “Il n’est tout simplement pas possible de lire tous les livres et de filtrer ces nouvelles exigences", expliquait Bridgette Exman, directrice adjointe des programmes et de l'enseignement de Mason City pour Mason City Globe Gazette. 

    Pour aller plus vite, les administrateurs auraient donc, selon Popular Science, saisi la question "Le livre contient-il une description ou une représentation d'un acte sexuel ?" dans ChatGPT pour chaque livre généralement contesté. Si la réponse est positive, le livre est retiré des rayons et stocké dans le centre administratif, en attendant des précisions sur le futur de ces ouvrages. 

    "Franchement, nous avons des choses plus importantes à faire que de passer du temps à essayer de comprendre comment protéger les enfants des livres", se désolait la directrice adjointe. "En même temps, nous avons l'obligation légale et éthique de nous conformer à la loi. Notre objectif est de mettre en place un processus défendable.”
     

    À lire sur Archimag
    Les podcasts d'Archimag
    Rencontre avec Stéphane Roder, le fondateur du cabinet AI Builders, spécialisé dans le conseil en intelligence artificielle. Également professeur à l’Essec, il est aussi l’auteur de l’ouvrage "Guide pratique de l’intelligence artificielle dans l’entreprise" (Éditions Eyrolles). Pour lui, "l’intelligence artificielle apparaît comme une révolution pour l’industrie au même titre que l’a été l’électricité après la vapeur".

    sponsoring_display_archimag_episode_6.gif