Vous êtes dans : Accueil > Tribunes libres >

Responsabilité de l’IA : visions croisées de l’informaticien et de l’avocate – partie I

Cédric Cartau, MARDI 11 JUIN 2019

L’autre jour, je discutais avec Marguerite de la question de la responsabilité de l’IA. C’est l’exemple bateau : si j’ai une voiture autonome – 100 % autonome – et qu’elle écrase un piéton, qui est responsable ? Nous voilà partis dans une discussion stratosphérique, alors qu’il n’y a vraiment pas de quoi fouetter un algorithme : si j’ai un chien et qu’il mord le voisin, j’en suis bien responsable en tant que propriétaire du chien, idem pour la voiture, fin de l’histoire.      

Ce après quoi je me dis que l’exemple du chien n’est peut-être pas une analogie idéale. Oui, après tout, personne n’a fabriqué le chien – si l’on excepte l’hypothèse du gros barbu perché dans les nuages –, et de fait le chien ne peut être responsable ni civilement ni pénalement. Donc, dans le cas de la morsure, cela me retombe toujours dessus quel que soit l’angle d’approche. 

Mais à y réfléchir à nouveau, il y a peut-être une distinction à faire selon que le propriétaire de l’IA est un particulier comme vous et moi ou une entreprise. Dans le cas d’une entreprise en effet, à partir du moment où l’acheteur prononce l’admission de la prestation, il reconnaît de facto que la chose vendue correspond à ce qu’il a commandé. Il lui appartenait de faire auditer l’objet du marché par une entreprise tierce pour en vérifier la conformité ; ne pas le faire est à ses risques et périls. C’est bien l’une des raisons pour lesquelles les chantiers navals de Saint-Nazaire ont été condamnés dans l’affaire de l’effondrement de la passerelle du paquebot Queen Mary II [2] : les juges ont certainement dû considérer que les chantiers navals auraient pu faire auditer la construction de la passerelle, qui avait été conçue par une deuxième entreprise et construite par une troisième. Dans le cas d’un particulier, cette possibilité d’audit est rarement mise en pratique dans les faits : quand on achète un véhicule, on s’attend à ce qu’il fonctionne. 

Clairement, dans le cas d’un véhicule appartenant à un particulier, à la réflexion, je doute que devant un juge le transfert de responsabilité afférent à l’acte d’achat l’emporte sur la garantie des vices cachés. D’ailleurs, si je reviens à l’exemple du toutou, je doute que l’on puisse invoquer la question du vice caché concernant le caractère de l’animal auprès de l’éleveur qui vous l’a vendu, alors qu’évidemment si le joint de culasse casse à 15 000 kilomètres, l’acheteur est protégé. Il y a fort à parier que la notion de vice caché l’emporte donc. 

Dans le cas de la voiture autonome, ce qui m’ennuie dans l’attribution systématique de la responsabilité au constructeur du véhicule, c’est que IA = logiciel et que le bug est inhérent au logiciel. Quels que soient les contrôles qualité que l’on déploie dans la conception ou l’implémentation du logiciel de commande, il y aura toujours des bugs. En dehors de cas très précis [3] et sans commune mesure avec le nombre de cas d’usage dans la conduite d’un véhicule, la preuve formelle de l’absence de bug est quasi impossible à démontrer. Comment peut-on engager la responsabilité d’un constructeur sachant que forcément le bug lui sera imputable, à lui et à lui seul ? Et si l’on ajoute le fait que, toujours dans le cas de l’IA, l’algorithme se modifie avec le temps (dans le cas d’un algorithme auto-apprenant), il va être compliqué d’engager la responsabilité du concepteur du logiciel, alors que le produit incriminé n’est pas – plus – celui qu’il a livré à l’origine.

Il est clair que les constructeurs ne vont jamais s’engager dans des véhicules autonomes à 100 % sans possibilité de débrayage : le fait justement de disposer d’un système débrayable et de stipuler dans les conditions d’utilisation que le conducteur doit reprendre la main « quand la situation le justifie » leur permettrait de dégager leur responsabilité. Bref, il va falloir des juristes et des avocats « plus plus plus » pour auditer les contrats de vente. Je gage que les conditions générales d’utilisation des voitures, que l’on va devoir signer en les achetant, seront des pavés de 500 pages. 

C’est ce que je dis depuis le début : la responsabilité de l’IA, c’est tout sauf simple, et il va falloir que les avocats s’emparent de la question, sinon une belle pagaille s’annonce dans les prétoires et chez les concessionnaires.

[1] Marguerite Brac de la Perrière, avocate et directrice du département Santé numérique du cabinet Lexing.

[2] Le 15 novembre 2003, la chute d’une passerelle d’une hauteur de 18 mètres a provoqué 16 morts et 29 blessés.

[3] La ligne 14 du métro parisien.

 

 

#logiciel#