Moratoire sur les intelligences artificielles : faut-il mettre les IA sur pause ?

 Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

Ils sont plus de 20 466 personnalités de la tech à avoir signé une lettre ouverte pour demander la mise à l’arrêt immédiate durant six mois de l'avancée de l’intelligence artificielle. « Les systèmes d'IA dotés d'une intelligence compétitive avec celle de l'homme peuvent présenter des risques profonds pour la société et l'humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d'IA », déclarent les auteurs. 

Parmi les signataires, Elon Musk, CEO de Tesla et Twitter, mais aussi Steve Wozniak, cofondateur d’Apple ou encore Yoshua Bengio, sommité montréalaise dans le domaine de l’IA. Mais aussi, des figures françaises à l’image de Raja Chatila, professeur émérite à la Sorbonne et membre du Comité national pilote d’éthique du numérique. 

Lire aussi : i-expo 2023 - Sourcing et fiabilité de l'information stratégique à l'heure du ChatGPT et des fakes news

L'intelligence artificielle : un risque pour l'humanité ?

Alors que la version 4 de Chat-GPT a commencé son déploiement il y a quelques semaines, que Midjourney (l’IA permettant de créer des images hyperréalistes) a mis fin à sa version gratuite en dénonçant des abus, la lettre ouverte pose plusieurs questions. 

« Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus. »

Lire aussi : La Cnil ouvre un service de l’intelligence artificielle

Tactique concurrentielle ou réelles problématique ?

Sur les réseaux sociaux, le texte suscite autant d’engouement que de critiques. « Cela ressemble à une tentative de gagner du temps pour que d'autres acteurs puissent accélérer le rythme. Suis-je le seul à y voir un conflit d'intérêt ? », interroge un data scientist sur Twitter.

De son côté, Yann LeCun, chef de l’IA chez Meta, ironise : « Nous sommes en 1440 et l'Église catholique a demandé un moratoire de six mois sur l'utilisation de la presse à imprimer et des caractères mobiles. Imaginez ce qui pourrait arriver si les roturiers avaient accès aux livres ! » 

Tactique concurrentielle ou non, le sujet ne peut être lu de manière binaire. Cette lettre ouverte soulève tout de même de réelles problématiques, comme la mise en place de garde-fous sécuritaires, la possibilité de détecter l’usage de l’IA, la responsabilité en cas de dommage causé par l’intelligence artificielle…

« Si une telle pause ne peut être mise en place rapidement, les gouvernements doivent intervenir et instaurer un moratoire », appellent les signataires.