Vous êtes dans : Accueil > Actualités > E-Santé >
La Cnil a publié le rapport de synthèse du débat public qu’elle a animé tout au long de l’année sur les enjeux éthiques des algorithmes et de l’intelligence artificielle(1).
Sa présidente, Isabelle Falque-Pierrotin (photo ci-contre), en a rappelé l’objectif : « Garantir que l’intelligence artificielle augmente l’homme plutôt qu’elle ne le supplante et participe à l’élaboration d’un modèle français de gouvernance éthique de l’IA. Nous devons collectivement faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité. »
Loyauté et vigilance
La Commission affirme à cette occasion deux principes fondateurs qui devront cadrer le développement des IA : loyauté et vigilance.
Reprenant une définition du Conseil d’État(2) (« la loyauté consiste à assurer de bonne foi le service de classement ou de référencement, sans chercher à l’altérer ou à le détourner à des fins étrangères à l’intérêt des utilisateurs »), la Cnil insiste sur l’utilité de son élargissement en précisant la notion d’« intérêt des utilisateurs » et en prenant en compte une dimension collective. Mais elle s’interroge également sur une terminologie, « loyauté des algorithmes », qui perd, avec la montée en puissance du machine learning, « une part de sa portée dès lors que l’algorithme se comporte d’une façon qui reste opaque à ses concepteurs ».
Quant au principe de vigilance, il vise à maîtriser l’instabilité et l’imprévisibilité des algorithmes dans la durée, mais aussi à contrebalancer une confiance excessive et une déresponsabilisation qui seraient favorisées par leur caractère de « boîte noire ».
Au-delà des principes, sixrecommandations opérationnelles sont déclinées (en encadré).
Ces réflexions vont nourrir la mission Villani qui a prévu de remettre ses conclusions début février. Rappelons que cette mission a vocation à éclairer le gouvernement dans l’élaboration d’une stratégie française en matière d’intelligence artificielle.
Lors de la présentation de son rapport d’étape, fin novembre, elle précisait sa vision d’un « enjeu éthique crucial pour le développement de l’IA. De lui dépendra en grande partie l’acceptation de ces technologies par les citoyens. La mission s’intéressera donc aux modalités d’une gouvernance de l’éthique de l’IA et s’attachera à décliner quelques propositions ».
Le Conseil national de l’Ordre des médecins ne sera pas non plus en reste pour alimenter de ses recommandations pouvoirs publics, professionnels et citoyens dans leur ensemble : adoptées mi-décembre, elles seront diffusées fin janvier.
Six recommandations opérationnelles
(1) https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
(2) Dans Le numérique et les droits fondamentaux, étude annuelle, 2014.
Les plus lus