Intelligence artificielle et éthique : ce qui les rapproche, ce qui les oppose

Intelligence artificielle

Ethique

Que faire avec...

• Simuler l’intelligence humaine (à défaut de faire penser la machine comme le ferait un humain).
• Permettre aux ordinateurs d’apprendre à partir de données : "améliorer leurs performances à résoudre des tâches sans être explicitement programmés pour chacune" (1).

• Dans une démarche éthique, il y aurait au moins deux principes à appliquer :

- ne pas nuire aux autres, ne pas leur causer délibérément
un dommage ;
- considérer chacun également, sans discrimination.

Ce qui fait débat...

• L’IA permet le progrès ; elle est supérieure à l’homme dans de nombreux domaines : reconnaissance des formes, de la voix, aide à la décision, robotique...
• Pour certains chercheurs (certains Etats ?), l’éthique est un frein à la science et à l’innovation.

• L’éthique est un fondement de l’action humaine et permet un développement respectueux à la fois de l’humanité et de chacun.
• Il n’y a pas d’éthique dans l’IA, l’IA est une boîte noire qui risque d’échapper au contrôle humain et de nuire à la société et aux individus.

Pour ou contre...

• L’IA contribue à sauver des vies. Elle montre son apport pour la prise de décision en matière de santé (exemple : application du programme Watson d’IBM), trouve des développements dans l’armée et la protection civile (l’usage de drones permet de préserver la vie de militaires, pompiers et civils).
• L’IA crée de l’emploi.
• Grâce à elle, on automatise de nombreux processus et de nombreuses tâches souvent sans réel intérêt et jusque là assurés par des humains qui peuvent alors se réorienter vers des emplois mieux qualifiés.

• Les progrès de l’IA entraînent ou amplifient des dangers pouvant notamment conduire à un Etat Big Brother avec la capacité de tout connaître d’un individu, actions, opinions, relations, état de santé, désirs, et d’être potentiellement un danger pour la démocratie.
• Les machines n’ont pas à décider à la place des hommes.
• L’automatisation se déroule souvent au détriment des travailleurs les moins formés et les moins mobiles.
• L’IA profite aux grands groupes, son développement va encore accentuer leur position dominante.

Demain...

• Un dilemme éthique fondamental est à résoudre : un système informatique peut-il se voir attribuer une responsabilité ? Peut-il devenir un sujet plutôt qu’un objet ? (2, 3)
• L’idée d’«ethics by design», pour la conception numérique responsable et sociale, progresse. Les sociétés informatiques se mettent à l’éthique (exemple : collectif Impact IA de Microsoft). On peut former les informaticiens à l’éthique.

• En matière d’IA, la France n’est pas dans le peloton de tête (rapport de Cédric Villani). Il nous faut avancer davantage pour créer des opportunités économiques et de l’emploi.
• Que nous réserve demain ? Si une avancée potentiellement
• risqué est possible, n’y aura-t-il pas quelqu’un pour la tenter ?
• L’éthique a toujours tendance à courir après la science.