La commission d'éthique du ministère des transports allemand a rendu son rapport sur les voitures autonomes. Il sacralise la vie humaine, sans aucune distinction (âge, sexe, santé, etc.) et propose 20 recommandations. Toutes les questions éthiques n'ont par contre pas trouvé de réponse, mais le sujet avance au moins.

Les voitures avec des systèmes de conduite automatisée sont déjà une réalité, mais dans certaines circonstances seulement. Leur développement avance à grands pas et n'est pas sans soulever certaines questions, notamment sur l'éthique. L'année dernière, des scientifiques ont publié les résultats d'une étude portant sur près de 2 000 résidents des États-Unis (via Amazon Mechanical Turk) : la délicate question du choix des victimes en cas d'accident mortel inévitable.

Sacrifier le conducteur pour sauver plus de vies : oui, mais...

Comme nous l'avions alors détaillé, une grande majorité des sondés estimait qu'il fallait sacrifier le conducteur pour sauver 10 piétons... mais seulement une minorité serait prête à acheter une voiture ne protégeant pas ses occupants en priorité. Un cas typique de dilemme social, concluaient les scientifiques, où « tout le monde cède à la tentation de l'autopréservation au lieu d'adopter un comportement de groupe qui conduirait à un meilleur résultat global ».

Une des solutions évoquées par les chercheurs était d'imposer un choix par la réglementation... au risque de voir les clients se détourner des voitures autonomes de peur qu'elle ne les protège pas coûte que coûte (passagers, familles). Un constructeur a d'ailleurs déjà tranché : en cas d'accident mortel, Mercedes-Benz préfère sauver le conducteur. 

Le ministère allemand des Transports se penche sur les questions éthiques

L'Allemagne a décidé de se pencher sérieusement sur cette question. Alexander Dobrindt, ministre fédéral des Transports et de la Construction, vient de présenter les conclusions sur rapport de la commission éthique sur la conduite autonome. Il s'intéresse particulièrement aux véhicules de niveau 4 ou 5, c'est-à-dire lorsqu'un conducteur n'est pas nécessaire durant tout ou partie du trajet (il peut enlever les mains du volant et se consacrer à d'autres tâches).

Il regroupe « les premières lignes directrices au monde pour la conduite automatisée » affirme Alexander Dobrindt. Le ministre annonce dans la foulée la mise en place d'un plan d'action pour les mettre en œuvre, sans plus de détails. Au total, 20 propositions ont été faites par 14 chercheurs, sous la présidence du professeur Udo Di Fabio, ancien juge de la cour constitutionnelle fédérale. 

Limiter les accidents, améliorer la mobilité des personnes

Il est tout d'abord question d'améliorer la sécurité des utilisateurs sur la route, tout en permettant à un nombre toujours plus important de personnes de se déplacer. Le ministère des Transports cite le rapport et n'y va par quatre chemins : « La conduite automatisée et connectée est un impératif éthique si les systèmes provoquent moins d'accidents que les conducteurs humains ».

Avant de s'attaquer au cœur du problème, il rappelle que le développement des voitures autonomes doit se faire avec l'objectif d'éviter autant que possible les accidents, et donc les dilemmes où le véhicule doit « choisir » entre deux issues, quand « il n'y a pas de compromis ». Une position identique à celle de Christoph von Hugo, responsable du système d'assistance à la conduite et de la sécurité chez Mercedes-Benz : « 99 % de notre travail d'ingénierie est d'empêcher que ces situations se produisent ». La loi de Murphy étant ce qu'elle est, il faut tout de même s'y préparer.

Les humains, sans aucune distinction, passent avant les animaux et tout le reste

Si malgré toutes les précautions une situation dangereuse se révèle inévitable, « la protection de la vie humaine jouit d'une priorité absolue » affirme fermement le rapport. Ainsi, « les systèmes doivent être programmés pour endommager les animaux ou les biens en cas d'incident si cela signifie que des blessures peuvent être évitées ». 

La proposition suivante fixe des limites qu'un système de conduite autonome ne devrait pas être en mesure de franchir : « toute distinction fondée sur des caractéristiques personnelles (âge, sexe, constitution physique ou mentale) est strictement interdite. Il est également interdit de contre-balancer la vie des victimes les unes par rapport aux autres ».

Pas de choix entre des humains et d'autres humains

Vous voyez venir la suite : qu'en est-il lorsque deux vies humaines se trouvent dans la balance ? Pour la commission, les variables en jeu sont trop nombreuses pour répondre directement à cette question. Tout dépend donc de la situation, mais aussi du comportement imprévisible des parties concernées. Dans ce genre de cas, les décisions à prendre ne peuvent pas être clairement normalisées et, par conséquent, programmées de telle sorte qu'elles soient éthiquement incontestables.

Les auteurs en profitent pour rappeler un jugement de 2006 de la Federal Constitutional Court sur l'Aviation Security Act : « Le sacrifice de personnes innocentes en faveur d'autres victimes potentielles est inadmissible, car les parties innocentes seraient alors réduites à de simples instruments ». Cette position n'est pas sans controverse, reconnaissent les auteurs du rapport, aussi bien au niveau constitutionnel qu'éthique, mais « elle devrait être respectée par les législateurs ».

Réduire le risque global, mais refuser le principe de compensation des vies

Dans le cas d'une programmation du système visant à diminuer les risques de blessures corporelles, la situation est différente : « une prévision des probabilités doit être faite en dehors de la situation, où l'identité des parties blessées ou tuées n'est pas encore connue. Une programmation faite afin de minimiser le nombre de victimes (les dommages causés aux biens prévalents sur les blessures corporelles, les blessures corporelles prévalent sur la mort, le plus petit nombre possible de personnes blessées ou tuées) pourrait donc être justifiée, en tout cas sans violation de la loi, si la programmation réduisait le risque pour chaque utilisateur de la route de manière égale ».

Ainsi, « tant que la programmation minimise les risques pour tous de la même manière, elle est également dans l'intérêt de ceux qui ont été sacrifiés » explique le rapport. Il fait au passage une analogie avec la vaccination imposée par la loi. De manière générale elle permet de limiter les maladies, même si elle peut conduire à des complications pour certains. « Malgré cela, il est dans l'intérêt de tous d'être vaccinés et de réduire le risque global d'infection ».

Afin d'être clair sur ses ambitions, la commission ajoute qu'elle « refuse d'en déduire que la vie des humains peut être "compensée" par celle d'autres personnes en situation d'urgence, de sorte qu'il soit possible de sacrifier une personne afin d'en sauver plusieurs autres [...] l'individu doit être considéré comme "sacro-saint". Aucune obligation de solidarité ne doit être imposée aux individus qui les obligeraient à se sacrifier pour d'autres, même si c'est la seule façon de sauver d'autres personnes ».

D'un principe simple, on se retrouve vite avec des cas particuliers

Les auteurs évoquent un autre genre de situation : « Une décision différente peut être prise si plusieurs vies sont menacées de manière imminente et que la seule chose qui compte est de sauver autant de personnes innocentes que possible. Dans des situations de ce genre, il semble raisonnable d'exiger que le plan d'action soit celui qui coûte le moins de vies humaines possible ». La commission reconnait qu'elle n'est pas encore arrivée à un consensus sur cette question et suggère donc de mener des études approfondies.

Dans la lignée se profile une épineuse question : la protection du conducteur prévaut-elle sur la protection d'autrui, ou bien a-t-elle une priorité inférieure ? « Sa protection n'est pas en soi subordonnée à la protection des parties innocentes. Néanmoins, le principe fondamental est que les personnes impliquées ne doivent pas sacrifier celles qui ne sont pas impliquées » explique le rapport.

La morale et la justice entrent dans l'équation

Dans tous les cas, une intelligence artificielle ne peut pas « remplacer ou anticiper la décision d'un conducteur responsable ayant la capacité morale de faire des jugements corrects ». Les chercheurs en rajoutent une couche : s'il est illégal pour un conducteur de tuer une personne pour en sauver une ou plusieurs autres, il n'est pas forcément coupable en fonction des circonstances.

Il est délicat cependant de prendre en compte l'ensemble de la jurisprudence sur ce sujet et de la transformer en ligne de codes pour une voiture autonome. « Pour cette raison, peut-être plus que tout autre, il serait souhaitable d'avoir une agence indépendante du secteur public (par exemple un Bureau d'enquête sur les accidents impliquant des systèmes de transport automatisés ou un Office fédéral de la sécurité dans les transports automatisés et connectés) afin de traiter systématiquement les leçons apprises » préconise le rapport.

À qui la faute ?

Autre problème soulevé avec les voitures autonomes : la responsabilité n'incombe plus forcément à l'automobiliste, mais aux fabricants et organismes en charge de prendre des décisions politiques et juridiques sur les infrastructures.

Si les constructeurs peuvent être tenus pour responsables d'un accident entrainant des blessures, voire un décès, qu'en est-il en cas « d'erreur » d'appréciation de la part de l'ordinateur de bord ? Pour la commission, ce n'est pas spécialement un problème.

Elle fait cette fois-ci une analogie avec les fabricants d'airbags ou de ceintures de sécurité : « La mort résultant d'un gonflement des airbags de façon incorrecte est une erreur, mais le fabricant ne sera pas tenu responsable s'il a fait tout ce qui pouvait raisonnablement être fait pour minimiser les risques ». Difficile cependant de savoir s'il est vraiment possible de comparer un airbag qui se déclenche en cas d'accident et des milliers de lignes de code.

Ce n'est pas à l'homme de s'adapter, mais à la voiture autonome

De fait, il faut pouvoir savoir à tout moment si la voiture conduit en mode autonome ou si le conducteur est aux commandes, et donc qui est responsable. Dans certaines circonstances, l'ordinateur de bord peut décider de redonner le contrôle au conducteur derrière le volant, mais il faut éviter un transfert abrupt autant que possible note le rapport.

« Les systèmes doivent s'adapter davantage au comportement communicatif humain plutôt que d'exiger des humains qu'ils améliorent leurs capacités d'adaptation ». Dans une situation d'urgence, le véhicule doit pouvoir se mettre en sécurité sans intervention humaine. 

Information, sécurité, vie privée... les autres points évoqués dans le rapport

Dans tous les cas, l'information auprès du public doit être claire et transparente. Le rapport préconise que l'éducation numérique des citoyens devrait comprendre une partie sur la gestion des véhicules autonomes. De manière plus large, on rappellera qu'un autre rapport du Comité économique et social européen recommandait d'ailleurs de faire de même, mais pour l'intelligence artificielle au sens large du terme.

Il faut également que les systèmes informatiques des voitures soient suffisamment protégés contre une attaque. Un point évident, mais qu'il est toujours bon de rappeler tant certains semblent parfois laisser ce point de côté. Un exemple parmi d'autres : les caméras connectées Foscam. La question de la vie privée et des données générées par les véhicules autonomes est aussi pointée du doigt : « Ce sont les détenteurs et les utilisateurs des voitures qui décident si les données doivent être transmises et utilisées ».

De manière plus globale, la commission soulève d'autres questions intéressantes : dans quelle mesure peut-on interdire à un conducteur de reprendre volontairement le contrôle du véhicule ? Existe-t-il une « obligation éthique » empêchant un humain de prendre le volant si cela permet d'améliorer la sécurité globale des usagers de la route ? Pas de réponse pour le moment.

Quoi qu'il en soit, il ne s'agit pour le moment que des pistes d'un rapport, qui doivent maintenant être adaptées et éventuellement inscrites dans la loi. C'est l'objectif du plan d'action annoncé par Alexander Dobrindt :  « Nous allons maintenant mettre en œuvre ces lignes directrices » s'exclame-t-il.