Suivez en direct le grand débat public organisé par la Cnil sur les algorithmes !

  • robot_algorithme.jpg

    robot-algorithme
    Le sociologue Dominique Cardon, Rand Hindi, le cofondateur de la start-up Snips, ou encore l’ex-président du Conseil national du numérique Benoît Thieulin, débattront lors de ces tables-rond(@yojosemere via VisualHunt / CC BY-NC-ND)
  • Demain, l'Homme sera-t-il obligé de céder le pouvoir aux machines ?

    Certains considèrent les algorithmes comme dangereux. D'autres estiment qu'ils ne sont que le reflet de décisions prises en amont. Une chose est sûre : les algorithmes questionnent. Missionnée par la loi pour une République numérique d'octobre 2016 pour conduire une réflexion sur les enjeux éthiques et les questions de société soulevées par l'évolution des technologies numériques, la Commission Nationale de l'Informatique et des Libertés (Cnil) lance un cycle de débats publics sur ces sujets dont la synthèse des échanges et des contributions sera publiée à l'automne 2017. 

    Dans le cadre de ce programme, deux tables rondes se dérouleront de 14h à 17h30 ce lundi 23 janvier et pourront être suivie en direct sur YouTube : "Des algorithmes et des hommes" et "Loyauté, transparence, pluralité".

    Fantasmes

    Début janvier, la Cnil publiait les résultats d'un sondage IFOP révélateur de la méconnaissance de la société envers les algorithmes. Selon cette étude, 80 % des Français considèrent en effet que les algorithmes sont présents dans leur vie de tous les jours. Pourtant, 70 % d'entre eux estiment qu'ils sont un enjeu de société, ces derniers avouent n'en avoir qu'une représentation confuse. 

    "Les algorithmes sont la proie de tous les fantasmes, explique Isabelle Falque-Pierrotin, la présidente de la CNIL, au Monde ; d’un côté, il y a la fascination technologique pour ces objets. D’un autre côté, il y a aussi une peur irraisonnée, où l’on se dit : “Les algorithmes vont me prendre mon job, me condamner à mort si je suis un malade en fin de vie ou me conduire en prison directement parce qu’il n’y aura plus de juges”. Ce débat a pour objectif de cerner les questions éthiques réelles."

    Les enjeux

    En France, c'est ​bien la Cnil qui est chargée de répondre à ce type d'interrogation, en analysant notamment l'impact des innovations technologiques et des usages émergents sur la vie privée et les libertés. Souhaitant "faire progresser la connaisse et la réflexion" autour des algorithmes, la Cnil a donc dressé une liste non exhaustive des multiples questions qu'ils soulèvent, et dont les débats d'aujourd'hui tenteront de répondre : 

    • S’agit-il d’une nouvelle révolution industrielle, ou d’un simple moyen d’améliorer la productivité ?
    • Les algorithmes sont-ils les nouveaux décideurs ?
    • Ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?
    • Sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?
    • Quelle transparence à l’ère des algorithmes : comment concilier transparence et propriété intellectuelle ?
    • Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés ?
    • Comment construire le libre-arbitre dans un monde « algorithmé » ?

    "Prendre le pouvoir à la place des hommes"

    "Si les modèles prédictifs peuvent être très positifs (anticiper, agir sur le monde, etc), les algorithmes posent néanmoins des problèmes éthiques, expliquait Jean-Gabriel Ganascia, professeur à l'université Pierre et Marie Curie, membre de l'Institut universitaire de France, et président du comité d’éthique du CNRS (Comets) lors de la journée Technolex organisée par Archimag en novembre dernier (un compte-rendu de cette journée de conférence sera téléchargeable gratuitement sur Archimag.com début février). 

    Et de nuancer : "Néanmoins, il est difficile de parler d’éthique pour les algorithmes en tant que tels, car l’éthique est nécessairement liée à la société". Expliquant que les modèles algorithmiques posaient différentes questions, notamment sur certains de leurs paramètre, qui peuvent s'avérer problématiques (indicateurs utilisés, transparence et éthique), Jean-Gabriel Ganascia avait terminé ainsi son intervention : "Il est donc plus que jamais nécessaire de suivre, de comprendre et de modifier ces modèles pour faire en sorte qu’ils ne prennent pas le pouvoir à la place des hommes dans la société".

    "Des outils dans la main des décideurs"

    Cette démonstration avait alors été appuyée par Olivier Gibaru, professeur des universités en mathématiques appliquées à Arts et Métiers ParisTech Center Lille, qui avait lui-même qualifié les algorithmes de "dangereux", mais contestée par Rodolphe Gélin, chief scientific officer chez Aldebaran SoftbankRobotics. L'un des pères du célèbre robot Nao avait ainsi défendu ses positions : "Selon moi, il ne faut pas jeter la pierre sur les algorithmes, qui ne sont que des outils dans la main des décideurs, expliquait-il ; ils ne font qu’appliquer un règlement décidé en amont. Il est donc de notre responsabilité d’informaticiens et de roboticiens de développer des algorithmes qui contribueront à ce que nos robots soient attentifs aux gens".

    Entre fascination et inquiétudes, soulevant enthousiasme et contestations, les débats autour des algorithmes s'annoncent passionnés. "On peut coloniser des gens avec des algorithmes, conclut Isabelle falque-Perrotin ; l’idée, c’est de s’en servir comme des outils. Quel est le pacte social collectif que nous voulons ?". Espérons que les deux conférences de cet après-midi, que chacun pourra suivre en live sur YouTube et commenter sur Twitter grâce au hashtag #algoethique, répondront à cette question.

    Au programme du débat éthique organisé par la CNIL :

    Table-ronde n°1 : des algorithmes et des hommes

    • Paul Duan (Bob emploi)
    • Roger-François Gauthier (Professeur de politique éducative comparée à l’Université Paris V)
    • Jean-Philippe Desbiolles (VP, IBM France)
    • Rand Hindi (Snips)
    • Antoine Garapon (IHESJ)


    Table-ronde n°2 : loyauté, transparence, pluralité

    • Dominique Cardon (Sciences Po, Médialab)
    • Cédric Villani (Institut Henri Poincaré)
    • Antoinette Rouvroy (Université de Namur)
    • Bruno Patino (Arte)
    À lire sur Archimag
    Les podcasts d'Archimag
    Pour cet épisode spécial Documation, nous nous sommes penchés sur une autre grande tendance de l'année 2024 : la cybersécurité, et plus particulièrement la sécurité dans le domaine de la gestion des données. La protection des données contre les menaces internes et externes est non seulement cruciale pour garantir la confidentialité, l'intégrité et la disponibilité des données, mais aussi pour maintenir la confiance des clients. Julien Baudry, directeur du développement chez Doxallia, Christophe Bastard, directeur marketing chez Efalia, et Olivier Rajzman, directeur commercial de DocuWare France, nous apportent leurs éclairages sur le sujet.