Moratoire sur les intelligences artificielles : faut-il mettre les IA sur pause ?

  • lettre-ouverte-intelligence-artificielle-moratoire.jpg

    intelligence-artificielle-lettre-ouverte-moratoire-elon-musk
    Plus de 1800 personnalités de la tech demandent un moratoire sur l'intelligence artificielle. (Canva)
  • Dans une lettre ouverte, plus de 20 466 signataires (parmi lesquels Elon Musk, Steve Wozniak ou encore Raja Chatila) demandent aux laboratoires d’IA de faire une pause de six mois dans l’entraînement des systèmes d’intelligence artificielle plus puissants que Chat-GPT 4.

    mail Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

    Ils sont plus de 20 466 personnalités de la tech à avoir signé une lettre ouverte pour demander la mise à l’arrêt immédiate durant six mois de l'avancée de l’intelligence artificielle. « Les systèmes d'IA dotés d'une intelligence compétitive avec celle de l'homme peuvent présenter des risques profonds pour la société et l'humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d'IA », déclarent les auteurs. 

    Parmi les signataires, Elon Musk, CEO de Tesla et Twitter, mais aussi Steve Wozniak, cofondateur d’Apple ou encore Yoshua Bengio, sommité montréalaise dans le domaine de l’IA. Mais aussi, des figures françaises à l’image de Raja Chatila, professeur émérite à la Sorbonne et membre du Comité national pilote d’éthique du numérique. 

    Lire aussi : i-expo 2023 - Sourcing et fiabilité de l'information stratégique à l'heure du ChatGPT et des fakes news

    L'intelligence artificielle : un risque pour l'humanité ?

    Alors que la version 4 de Chat-GPT a commencé son déploiement il y a quelques semaines, que Midjourney (l’IA permettant de créer des images hyperréalistes) a mis fin à sa version gratuite en dénonçant des abus, la lettre ouverte pose plusieurs questions. 

    « Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus. »

    Lire aussi : La Cnil ouvre un service de l’intelligence artificielle

    Tactique concurrentielle ou réelles problématique ?

    Sur les réseaux sociaux, le texte suscite autant d’engouement que de critiques. « Cela ressemble à une tentative de gagner du temps pour que d'autres acteurs puissent accélérer le rythme. Suis-je le seul à y voir un conflit d'intérêt ? », interroge un data scientist sur Twitter.

    De son côté, Yann LeCun, chef de l’IA chez Meta, ironise : « Nous sommes en 1440 et l'Église catholique a demandé un moratoire de six mois sur l'utilisation de la presse à imprimer et des caractères mobiles. Imaginez ce qui pourrait arriver si les roturiers avaient accès aux livres ! » 

    Tactique concurrentielle ou non, le sujet ne peut être lu de manière binaire. Cette lettre ouverte soulève tout de même de réelles problématiques, comme la mise en place de garde-fous sécuritaires, la possibilité de détecter l’usage de l’IA, la responsabilité en cas de dommage causé par l’intelligence artificielle…

    « Si une telle pause ne peut être mise en place rapidement, les gouvernements doivent intervenir et instaurer un moratoire », appellent les signataires.

    À lire sur Archimag
    Les podcasts d'Archimag
    La photographie possède un pouvoir fascinant : celui de capturer un instant et de le figer pour l’éternité. Elle raconte des histoires, qu’elles soient personnelles ou collectives, qui traversent le temps et façonnent notre passé, notre présent et notre futur. C’est pourquoi les albums de famille jouent un rôle si important dans la construction de nos souvenirs. Mais avec l’avènement de l’intelligence artificielle générative, capable de créer des images de plus en plus proches de la réalité, une question se pose : comment cette technologie va-t-elle influencer notre mythologie familiale ? Serge Tisseron, psychiatre et docteur en psychologie, explore depuis longtemps nos relations avec les technologies. En cherchant à recréer une photographie de son enfance, il s’est intéressé aux liens entre mémoire, photographie et intelligence artificielle. Il revient sur l’origine de son livre "Le jour où j’ai tué mon frère - Quand l’IA fabrique la photographie de nos souvenirs", publié aux Éditions Lamaindonne.

    Serda Formations Data 2023