Moratoire sur les intelligences artificielles : faut-il mettre les IA sur pause ?

  • lettre-ouverte-intelligence-artificielle-moratoire.jpg

    intelligence-artificielle-lettre-ouverte-moratoire-elon-musk
    Plus de 1800 personnalités de la tech demandent un moratoire sur l'intelligence artificielle. (Canva)
  • Dans une lettre ouverte, plus de 20 466 signataires (parmi lesquels Elon Musk, Steve Wozniak ou encore Raja Chatila) demandent aux laboratoires d’IA de faire une pause de six mois dans l’entraînement des systèmes d’intelligence artificielle plus puissants que Chat-GPT 4.

    mail Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

    Ils sont plus de 20 466 personnalités de la tech à avoir signé une lettre ouverte pour demander la mise à l’arrêt immédiate durant six mois de l'avancée de l’intelligence artificielle. « Les systèmes d'IA dotés d'une intelligence compétitive avec celle de l'homme peuvent présenter des risques profonds pour la société et l'humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d'IA », déclarent les auteurs. 

    Parmi les signataires, Elon Musk, CEO de Tesla et Twitter, mais aussi Steve Wozniak, cofondateur d’Apple ou encore Yoshua Bengio, sommité montréalaise dans le domaine de l’IA. Mais aussi, des figures françaises à l’image de Raja Chatila, professeur émérite à la Sorbonne et membre du Comité national pilote d’éthique du numérique. 

    Lire aussi : i-expo 2023 - Sourcing et fiabilité de l'information stratégique à l'heure du ChatGPT et des fakes news

    L'intelligence artificielle : un risque pour l'humanité ?

    Alors que la version 4 de Chat-GPT a commencé son déploiement il y a quelques semaines, que Midjourney (l’IA permettant de créer des images hyperréalistes) a mis fin à sa version gratuite en dénonçant des abus, la lettre ouverte pose plusieurs questions. 

    « Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus. »

    Lire aussi : La Cnil ouvre un service de l’intelligence artificielle

    Tactique concurrentielle ou réelles problématique ?

    Sur les réseaux sociaux, le texte suscite autant d’engouement que de critiques. « Cela ressemble à une tentative de gagner du temps pour que d'autres acteurs puissent accélérer le rythme. Suis-je le seul à y voir un conflit d'intérêt ? », interroge un data scientist sur Twitter.

    De son côté, Yann LeCun, chef de l’IA chez Meta, ironise : « Nous sommes en 1440 et l'Église catholique a demandé un moratoire de six mois sur l'utilisation de la presse à imprimer et des caractères mobiles. Imaginez ce qui pourrait arriver si les roturiers avaient accès aux livres ! » 

    Tactique concurrentielle ou non, le sujet ne peut être lu de manière binaire. Cette lettre ouverte soulève tout de même de réelles problématiques, comme la mise en place de garde-fous sécuritaires, la possibilité de détecter l’usage de l’IA, la responsabilité en cas de dommage causé par l’intelligence artificielle…

    « Si une telle pause ne peut être mise en place rapidement, les gouvernements doivent intervenir et instaurer un moratoire », appellent les signataires.

    À lire sur Archimag
    Les podcasts d'Archimag
    Saison 2, Ép. 9 - Sommes-nous devenus accros aux algorithmes ? Aux recommandations de nos réseaux sociaux ou encore aux IA génératives qui se démocratisent depuis plus d'un an ? Pour répondre à cette question, nous avons rencontré Luc de Brabandère. Il se définit comme un philosophe d’entreprise, un mathématicien, un professeur, mais aussi un heureux grand-père et un Européen convaincu. Ses multiples casquettes nourrissent ses divers travaux. Luc de Brabandère est notamment l'auteur de "Petite Philosophie des algorithmes sournois", publié aux éditions Eyrolles en octobre 2023. Pour le podcast d'Archimag, il nous livre ses réflexions sur les algorithmes et revient sur son parcours atypique.
    Publicité

    Serda Formations Data 2023