Article réservé aux abonnés Archimag.com

Outils numériques et service public : quels sont les défis éthiques et sociétaux ? Rencontre avec Raphaël Maurel

  • raphael-maurel-enjeux-ethiques-societaux-outils-numeriques-service-public.jpg

    defis-ethiques-societaux-service-public-technologies
    Raphaël Maurel, maître de conférences en droit public à l’Université de Bourgogne et membre du Credimi. (DR)
  • Raphaël Maurel est maître de conférences en droit public à l’Université de Bourgogne et membre du Credimi (Centre de recherche sur le droit des marchés et des investissements internationaux). Spécialiste de droit international, il s’intéresse de plus en plus au droit du numérique. Il est également secrétaire général de l’Observatoire de l’éthique publique, dont il dirige le département "Éthique des affaires".

    mail Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.


    Au sommaire :


    Qu'est ce que l'Observatoire de l'éthique politique ?

    L’Observatoire (OEP) est un laboratoire d’idées fondé sur la philosophie de la transparence constructive. Composé de parlementaires et d’universitaires, l’Observatoire travaille depuis 2018 à l’identification de zones d’ombre ou de zones grises dans l’éthique publique, afin de proposer des solutions concrètes pour améliorer la transparence publique, clarifier les statuts des élus ou des collaborateurs, ou encore donner des ressources pour fonder une culture de l’éthique incluant une réflexion sur les nécessaires limites de la transparence.

    Le travail de l’OEP a débuté sur l’éthique publique : Parlement, Gouvernement, haute fonction publique, collectivités locales. Depuis plusieurs années, nous étendons notre réflexion à des corolaires, comme l’éthique des affaires - car l’entreprise est une institution politique - et l’éthique du numérique, indispensable à la compréhension des enjeux contemporains. 

    Quels sont les principaux défis éthiques et sociétaux liés à l’utilisation des outils numériques dans les services publics ?

    Ils sont si nombreux qu’il est difficile de les mentionner tous. L’un d’entre eux est certainement la "conditionnalité numérique", expression utilisée par Caroline Lequesne-Roth dans ses travaux au sein de l’Observatoire pour désigner les difficultés d’accès aux outils numériques par certaines catégories d’administrés.

    Lire aussi : L’État peut-il imposer aux usagers d’accomplir des démarches administratives en ligne ?

    L’illectronisme n’est pas un phénomène nouveau, mais persiste. L’intelligence artificielle, notamment générative (mais pas exclusivement), creuse encore les inégalités. Et ce qui était déjà un ravin (l’utilisation quotidienne d’internet versus l’absence d’utilisation de tout outil numérique) devient un abysse (utilisation quotidienne de ChatGPT et d’autres outils d’IA versus la difficulté à envoyer un courriel).

    On peut aussi mentionner le défi des biais algorithmiques, qui soulèvent de nombreuses difficultés concrètes, la question de la protection des données personnelles, celle de la gouvernance des institutions et des outils du numérique, souvent privée (internet, Icann…), ou encore la question de l’impact écologique des outils numériques, qui reste mal connue et qui constitue un enjeu majeur d’éthique environnementale. Je pense par exemple au coût écologique des "fermes" de minage dans le contexte des crypto-actifs.

    Comment peut-on garantir la transparence de ces outils ?

    On peut dégager quelques lignes de force applicables à la plupart des situations. La plus importante réside peut-être dans le questionnement éthique, cher à Paul Ricœur : il faut parvenir à une "culture de la transparence" qui implique, dès la conception des outils, une réflexion sur la transparence de l’information et du fonctionnement (transparence by design).

    Les outils numériques sont devenus bien trop complexes pour que leur fonctionnement technique soit parfaitement compréhensible par les citoyennes et citoyens, qui ne voient parfois pas les enjeux de responsabilité qui découlent de leur utilisation. Il faut donc réfléchir à la manière dont il est possible d’informer des bases nécessaires permettant à chacune et à chacun de faire un choix - celui d’utiliser ou non un outil.

    Cela passe notamment par des obligations de transparence et d’information à la charge des constructeurs et des fournisseurs de services numériques, comme cela est peu à peu en cours en France, en grande partie à l’initiative de l’Union européenne, mais aussi par une politique éducative adaptée au niveau national.

    Lire aussi : 1,3 milliard d’euros pour la transition numérique et la cybersécurité en Europe

    Il y a aussi, en corollaire, une réflexion à mener sur la détechnicisation de ces enjeux pour les porter à la connaissance du grand public. Le questionnement éthique doit aussi pouvoir mener à refuser l’utilisation et la généralisation de certains outils, par exemple lorsque les biais possibles sont trop importants.

    C’est ce que plaide l’OEP, par exemple, concernant la généralisation de la reconnaissance biométrique dans l’espace public. Mais il faut que les décideurs comprennent l’intégralité des enjeux techniques, politiques, économiques, éthiques et juridiques des nouveaux outils qui émergent pour se donner la réelle capacité de refuser leur utilisation - ici à des fins sécuritaires.

    Les services publics sont-ils "armés" pour faire face au développement des nouvelles technologies ?

    Non ! Cela rejoint une réflexion évoquée plus haut : à force d’externaliser des compétences, les services publics en ont perdu. Il faut les retrouver, ce qui implique là encore - et notamment - une politique éducative au numérique très ambitieuse.

    Pour ne prendre qu’un exemple, alors même que les bases de la cybersécurité et de la protection des données personnelles ne sont enseignées ni à l’école ni à l’entrée dans la fonction publique, le nombre de cyberattaques explose et la sécurité numérique des services publics devient un enjeu quotidien.

    Lire aussi : ChatGPT, Bard... 3 conseils pour protéger ses données personnelles

    La formation et la culture du numérique responsable sont les enjeux de cette première moitié du siècle, d’autant qu’il faudra se préparer aux prochaines évolutions. Nous vivrons probablement une nouvelle révolution quantique dans les prochaines décennies : anticipons-là, avec les outils de l’éthique.

    Cet article vous intéresse? Retrouvez-le en intégralité dans le magazine Archimag !
    IA-nouvelles-technos-service-public
    Amélioration de la gestion des ressources, simplification des démarches administratives, automatisation de tâches répétitives, renseignement des citoyens… L’IA et les nouvelles technologies ont ouvert de nouvelles perspectives au service public. Mais quels sont leurs enjeux éthiques et sociétaux ainsi que leurs applications concrètes dans les domaines de la justice, de la lutte contre la fraude, de la cybersécurité et de la gestion de la relation citoyen?
    Acheter ce numéro  ou  Abonnez-vous
    À lire sur Archimag
    Les podcasts d'Archimag
    Rencontre avec Stéphane Roder, le fondateur du cabinet AI Builders, spécialisé dans le conseil en intelligence artificielle. Également professeur à l’Essec, il est aussi l’auteur de l’ouvrage "Guide pratique de l’intelligence artificielle dans l’entreprise" (Éditions Eyrolles). Pour lui, "l’intelligence artificielle apparaît comme une révolution pour l’industrie au même titre que l’a été l’électricité après la vapeur".