Une problématique qui est soulevée en ce moment et qui va faire jaser:



En cas d’accident inévitable, la voiture est programmée pour choisir l’alternative qu’elle considére comme la moins coûteuse en vies humaines.



Exemple concret: vous vous retrouvez dans une situation où un camion vous barre soudainement la route et une voiture de tourisme arrive en face, l’ordinateur de votre voiture a le choix entre deux scénarios possibles:

• passer sur l’autre voie, et prendre le risque de percuter l’autre voiture de tourisme. Ca vous laisse une chance de survie, mais également une chance de vous tuer vous + les occupants de l’autre voiture d’en face.
  
  
  


• percuter le camion. Cette option ne vous laisse aucune chance de survie à vous, mais maximisera les chances de survie des occupant de l’autre véhicule de tourisme.
  
  
  
  => Votre propre voiture choisirait de vous envoyer manger le camion, selon le principe qu’elle minimise globalement les risques de pertes de vies humaines.
  
  
  
  
  
  Ce cas va forcément arriver un jour ; et la polémique avec. On aura beau répéter au client que globalement c’est mieux comme ça pour tout le monde (et eux y compris puisqu’ils peuvent être demain dans la position du “véhicule de tourisme qui arrive en face”), les constructeurs vont pouvoir ramer pour faire avaler à leurs clients qu’ils achètent une bagnole qui peut potentiellement décider arbitrairement de les envoyer à la mort.
  
  
  
  On entend déjà certains plaider pour que ce genre de décision comporte une part de hasard qui, selon eux, “reproduirait l’incapacité de prise d’une décision parfaitement rationelle et mûrement réfléchie parun humain dans un lap de temps très court, caractéristique de ce genre de situation”
  
  
  
  Bref, ce n’est que le début.

atomusk a écrit :



Scénario pseudo SF/phylosophique ridicule qui voudrait que la voiture auto “choisisse” le moindre mal analysant combien il y a de passagers dans les autres voitures pour faire un calcul mathématique de valeur ? " />





Si tu veux un cas plus simple pour mieux poser le problème: tu es sur une route de montagne, avec un ravin à côté ; tout à coup trois humains se retrouvent en face au milieu de la route: vues les caractéristiques parfaitement connues de la voiture, de sa capacité de freinage, etc… il lui est impossible de freiner suffisamment fort pour éviter la collision avec les piétons, entrainant leur mort certaine, à moins que les piétons, dont la réaction (humaine) est totalement imprévisible se jettent sur le bas côté … ou pas.



Une telle situation est déjà parfaitement reconnue par les voitures automatiques en tests. Il n’y a rien de SF là dedans, c’est déja parfaitement concret: les voitures actuellement en test ont déjà des algos qui sont programmés pour faire des choix en permanence. Celui-là en fait partie.





Alors, on veut quoi: on balance la voiture dans le ravin sous prétexte qu’on est seul dans la voiture, vs. 3 piétons, ou on leur rentre dedans et on les tue, sous prétexte que notre voiture ne doit jamais nous tuer sciemment, ou sous prétexte que ce sont les piétons qui seraient en tort, ou selon je-ne-sais quel autre critère ?





Le problème, c’est: quel choix on décide, et qui décide d’utiliser tel algo plutôt que tel autre ? Le constructeur ? Le législateur ? Le propriétaire de la bagnole ?





le véhicule freinera plus vite et largement mieux que ce que tu aurai freiné, enclenchera les éléments de sécurité de ton véhicule (serrer les ceintures, air bag, ou mousse expansée à la démolition man " />), pourrait mettre ton véhicule dans l’angle minimisant tes dommages. il préviendra les autres véhicules (auto ou non) et les secours ..

Si ta voiture est certaine qu’elle ne peux pas éviter d’accident elle te protégera mieux que n’importe quel pilote de course …. et on parle “du” scénario qui génère en général des carambolages de ²⁰⁄₃₀ voitures … ici avec des voitures automatiques, si il y a 2 morts, ça sera le bout du monde " />



Que la voiture ait toutes les chances de réagir mieux qu’un humain en situation de crise est plus que probable ; sauf que la problématique n’est pas là ; elle est dans le fait qu’on puisse/doive ou non implémenter des cas où la voiture décidera elle-même de faire plus de mal à son propriétaire qu’à des tiers, les limites de la prise de risque pour soi et pour les tiers, etc…



A nouveau, ce sont de vraies questions, concrètes, et quand je dis qu’on en est qu’au début, c’est parce qu’il faudra nécessairement trancher un jour ou l’autre.

atomusk a écrit :



mousse expansée à la démolition man " />





Au passage pour la petite info du dimanche: au delà d’un certain degré de décélération, mousse expansée ou pas, tes propres organes vont litéralement aller s’écraser dans ta cage thoracique, de par le simple fait de leur propre masse.



Donc au delà de cette quantité de décélération, la mort des occupants de la voiture est strictement inévitable.

seb2411 a écrit :



Je crois que c’est de la SF ou plutôt une habituelle humanisation d’algorithmes.

La voiture ne voit pas d’humains ou un ravin. Elle va détecter des obstacles rien de plus et agir en fonction pour préserver l’intégrité du véhicule.





C’est parfaitement faux ; les Google Cars dicriminent déjà depuis très longtemps les types d’obstacles auquel elle fait face, pour une raison toute simple: chacun a ses caractéristiques propres (capacité à changer de direction sans prévenir, vitesse maximale, capacité d’accélération, etc…). Une moto sur la route ne se gère pas comme un piéton, un vélo, un cone de chantier, etc…



Il n’y a rien de SF là dedans, et ça existe depuis des années. Aujourd’hui, je prends mon appareil photo compact Sony à 200 ou 300 euros, il est capable de distinguer un visage d’adulte d’un visage d’“enfant en bas âge”, au milieu d’une scène hyper chargée et en mouvement, et me l’affiche en direct dans le viseur. Le tout pour une fonction annexe d’un apareil à la puissance de calcul très limitée, et avec pour seule données en entrée, une image 2D.





sauf a avoir des piétons qui se téléportent la voiture aura une vision suffisamment claire de son environnement pour prévoir et anticiper.



Dans de nombreux cas, l’anticipation est impossible: le gamin qui apparaît en train de traverser la route, le tout en courant, et qui était masqué par des bagnoles en stationnement, etc…