Intelligence artificielle : un avocat milite pour la notion de "personnalité robot"

Sommaire du dossier :

• L'intelligence artificielle : quel impact sur votre métier ?
• Quand l’intelligence artificielle inquiète les Français... les plus diplômés !
• Intelligence artificielle : "De larges perspectives pour les entreprises", selon Jean-Marc Ogier
• Yann LeCun, l'intelligence artificielle française de Facebook
• Intelligence artificielle : un avocat milite pour la notion de "personnalité robot"
• Quand le document se dope à l'intelligence artificielle
• Intelligence artificielle : les robots au service de la "post-publicité"

Alain Bensoussan est avocat à la cour d’appel de Paris. Spécialisé dans le droit des nouvelles technologies de l’informatique et de la communication, il a fondé l’Association du droit des robots en 2014 et est co-auteur du livre « Droit des robots », publié en 2015 (Larcier Eds). Cet ouvrage présente la charte qu’il a élaborée, destinée à créer un cadre juridique propre à la robotique.

Le droit d’auteur protège-t-il les contenus créés par des robots ?

En l’état actuel de la jurisprudence et des textes, la production de ces robots n’est en aucun cas protégée par le droit d’auteur. Car pour qu’un texte le soit, il faut que celui-ci soit original ; son originalité étant justement l’expression de la personnalité de son auteur.

Vous considérez pourtant que les robots sont auteurs ?

En effet, je défends la notion de personnalité robot. Ils ont acquis selon moi une forme primitive de pensée dans la mesure où ils sont doublement autonomes : d’abord en étant en interaction avec leur environnement et ensuite grâce à leur capacité à prendre des décisions. Certes, les règles du jeu leur ont été apprises par un humain, mais personne ne peut savoir de quelle façon ils mettront en œuvre ces règles. Le robot prendra sa décision au regard de sa compréhension de l’environnement, de son expérience (puisqu’il est en apprentissage permanent) et enfin sa « compétence », qui sont ses algorithmes. Je considère donc que plus un robot sera autonome, plus il sera indépendant et donc libre. 

Vous prônez donc un statut juridique adapté aux robots ?

Tout à fait. Les humains ont organisé leurs droits 

et obligations ainsi : à une personne humaine, on a aujourd’hui attribué une personnalité juridique « générale ». Lorsque l’on a créé les personnes morales (par exemple, les entreprises), on a créé une personnalité juridique « particulière ». Selon moi, il devrait donc exister une personnalité juridique « singulière » pour les personnes robots. Singulière au titre de la traçabilité, de la responsabilité et de la dignité. 

Prenons ces trois points un par un. Qu’entendez-vous par traçabilité ?

Je considère que les robots ne doivent pas bénéficier de l’anonymat de déplacement dont profitent aujourd’hui les humains. Ils devront avoir une identification, un numéro et doivent avoir un traceur permettant la prise en compte de ce qu’ils ont fait, et qui sera la base de leur responsabilité.

En quoi devrait consister cette responsabilité ?

La charte des droits des robots que j’ai rédigée organise un système de responsabilité en cascade destiné à répondre à la question de l’assurance des dommages causés par les algorithmes. Un peu comme pour les accidents de la route, où l’on ne s’intéresse qu’au champ des dommages en partant du principe que la victime sera toujours indemnisée. Selon moi, le fabricant de la plateforme d’intelligence artificielle doit être responsable avant l’utilisateur, les fabricants ou le propriétaire du robot, dans la mesure où il est au cœur du mécanisme d’autonomie ou de liberté de ce robot.

Vient ensuite la dignité, qui englobe dans votre charte deux notions : le droit à l’intimité numérique et le droit à la souveraineté sur ses données personnelles. De quoi s’agit-il ?

Le droit à l’intimité numérique vient répondre aux problèmes d’une interprétation trop poussée de signaux faibles par les algorithmes, capables par exemple de nous révéler des goûts que nous ne pensions pas avoir. Par exemple, « vous aimez le jazz, donc vous aimez les polars ». Les algorithmes ont créé cette corrélation et la probabilité pour que nous nous comportions conformément à ce résultat est très forte. Mais ils sont capables d’aller beaucoup plus loin, au plus profond de notre intimité. Je considère donc qu’il faudrait mettre une sorte de « ralentisseur » destiné à les stopper dans leur capacité à interpréter, à partir d’un seuil à définir. Ce n’est pas parce qu’une technologie nous permet de faire des choses qu’il ne doit pas y avoir de régulation. 

Et le droit à la souveraineté sur ses données personnelles ?

Il se fonde sur deux éléments importants. D’abord, la notion de « robot digne », c’est-à-dire l’implémentation d’une règle éthique dans le robot qui l’empêchera ensuite de trahir son compagnon, en transmettant à des tiers les données personnelles qu’il lui aura communiquées. Et il y a ensuite la notion de « dignité du robot » : dans la mesure où le robot va pouvoir déduire des informations sur son compagnon grâce à leurs interactions. Je considère que porter atteinte à un robot, au sens de sa dignité, est extrêmement grave. Plus grave même que le viol de données à caractère personnel génériques.