Article réservé aux abonnés Archimag.com

Intelligence artificielle : un avocat milite pour la notion de "personnalité robot"

  • personnalité robot.jpg

    "Plus un robot sera autonome, plus il sera indépendant et donc libre" Alain Bensoussan. (Photo credit: delgrosso via Visualhunt / CC BY-NC-ND)
  • Sommaire du dossier :

    Alain Bensoussan est avocat à la cour d’appel de Paris. Spécialisé dans le droit des nouvelles technologies de l’informatique et de la communication, il a fondé l’Association du droit des robots en 2014 et est co-auteur du livre « Droit des robots », publié en 2015 (Larcier Eds). Cet ouvrage présente la charte qu’il a élaborée, destinée à créer un cadre juridique propre à la robotique.

    Le droit d’auteur protège-t-il les contenus créés par des robots ?

    En l’état actuel de la jurisprudence et des textes, la production de ces robots n’est en aucun cas protégée par le droit d’auteur. Car pour qu’un texte le soit, il faut que celui-ci soit original ; son originalité étant justement l’expression de la personnalité de son auteur.

    Vous considérez pourtant que les robots sont auteurs ?

    En effet, je défends la notion de personnalité robot. Ils ont acquis selon moi une forme primitive de pensée dans la mesure où ils sont doublement autonomes : d’abord en étant en interaction avec leur environnement et ensuite grâce à leur capacité à prendre des décisions. Certes, les règles du jeu leur ont été apprises par un humain, mais personne ne peut savoir de quelle façon ils mettront en œuvre ces règles. Le robot prendra sa décision au regard de sa compréhension de l’environnement, de son expérience (puisqu’il est en apprentissage permanent) et enfin sa « compétence », qui sont ses algorithmes. Je considère donc que plus un robot sera autonome, plus il sera indépendant et donc libre. 

    Vous prônez donc un statut juridique adapté aux robots ?

    Tout à fait. Les humains ont organisé leurs droits 

    et obligations ainsi : à une personne humaine, on a aujourd’hui attribué une personnalité juridique « générale ». Lorsque l’on a créé les personnes morales (par exemple, les entreprises), on a créé une personnalité juridique « particulière ». Selon moi, il devrait donc exister une personnalité juridique « singulière » pour les personnes robots. Singulière au titre de la traçabilité, de la responsabilité et de la dignité. 

    Prenons ces trois points un par un. Qu’entendez-vous par traçabilité ?

    Je considère que les robots ne doivent pas bénéficier de l’anonymat de déplacement dont profitent aujourd’hui les humains. Ils devront avoir une identification, un numéro et doivent avoir un traceur permettant la prise en compte de ce qu’ils ont fait, et qui sera la base de leur responsabilité.

    En quoi devrait consister cette responsabilité ?

    La charte des droits des robots que j’ai rédigée organise un système de responsabilité en cascade destiné à répondre à la question de l’assurance des dommages causés par les algorithmes. Un peu comme pour les accidents de la route, où l’on ne s’intéresse qu’au champ des dommages en partant du principe que la victime sera toujours indemnisée. Selon moi, le fabricant de la plateforme d’intelligence artificielle doit être responsable avant l’utilisateur, les fabricants ou le propriétaire du robot, dans la mesure où il est au cœur du mécanisme d’autonomie ou de liberté de ce robot.

    Vient ensuite la dignité, qui englobe dans votre charte deux notions : le droit à l’intimité numérique et le droit à la souveraineté sur ses données personnelles. De quoi s’agit-il ?

    Le droit à l’intimité numérique vient répondre aux problèmes d’une interprétation trop poussée de signaux faibles par les algorithmes, capables par exemple de nous révéler des goûts que nous ne pensions pas avoir. Par exemple, « vous aimez le jazz, donc vous aimez les polars ». Les algorithmes ont créé cette corrélation et la probabilité pour que nous nous comportions conformément à ce résultat est très forte. Mais ils sont capables d’aller beaucoup plus loin, au plus profond de notre intimité. Je considère donc qu’il faudrait mettre une sorte de « ralentisseur » destiné à les stopper dans leur capacité à interpréter, à partir d’un seuil à définir. Ce n’est pas parce qu’une technologie nous permet de faire des choses qu’il ne doit pas y avoir de régulation. 

    Et le droit à la souveraineté sur ses données personnelles ?

    Il se fonde sur deux éléments importants. D’abord, la notion de « robot digne », c’est-à-dire l’implémentation d’une règle éthique dans le robot qui l’empêchera ensuite de trahir son compagnon, en transmettant à des tiers les données personnelles qu’il lui aura communiquées. Et il y a ensuite la notion de « dignité du robot » : dans la mesure où le robot va pouvoir déduire des informations sur son compagnon grâce à leurs interactions. Je considère que porter atteinte à un robot, au sens de sa dignité, est extrêmement grave. Plus grave même que le viol de données à caractère personnel génériques. 

    Cet article vous intéresse? Retrouvez-le en intégralité dans le magazine Archimag !

    Au sommaire

    - Enquête 2016 : la gouvernance de l’information, un impératif pour les organisations
    - Où en est le PNB ?
    - Case management : de la souplesse dans les process​​
    - Architecture de l'information et compétences

    DOSSIER L'intelligence artificielle : croquez dedans !​

    L’intelligence artificielle est là. Elle apparaît aujourd’hui dans de nombreuses applications de notre vie professionnelle. Capable d’apprendre et de travailler sur des masses considérables de données, elle n’est qu’au début des avancées qu’elle permet.

    Et aussi :
    - L’ECM passe au big data
    - Réussir le marketing de son service en 5 étapes
    - Kentika automatise la veille presse de la Ville de Lyon
    - L’université catholique de Louvain se convertit​ au learning center
    - Les plateformes collaboratives : enjeux juridiques​
    - Favoris : correcteurs orthographiques​​
    - Les vies multiples d’Odile Contat
    - François-Bernard Huyghe : « Le numérique a démocratisé la désinformation »
    - L’innovation en mode « ouverture »
    + Archimag store et Archi...kitsch

    Acheter ce numéro  ou  Abonnez-vous

    À lire sur Archimag

    Le chiffre du jour

    21
    C'est le taux de lecteurs français qui lisent un ouvrage sur liseuse, sur tablette ou sur téléphone.

    Recevez l'essentiel de l'actu !

    Le Mag

    Tout Archimag, à partir de 9,50 €
    tous les mois.