L'enfant, considéré comme l'un des trente meilleurs joueurs d'échecs moscovites de moins de 9 ans, disputait une partie contre un bras robotisé, rapporte le Guardian.
Une vidéo montre comment l'enfant, cherchant à déplacer une pièce, avait vu le robot saisir son doigt jusqu'à ce que plusieurs adultes parviennent à le libérer de l'emprise.
Les organisateurs du tournoi estiment que le robot n'aurait pas anticipé le fait que son adversaire puisse riposter si rapidement, et l'enfant aurait dû lui laisser le temps de finir son propre mouvement.
L'enfant a pu recommencer à jouer dès le lendemain et finir le tournoi.
Slate rappelle de son côté qu'un autre robot avait écrasé le pied d'un bébé en 2016, qu'un autre avait suggéré à une petite fille de s'électrocuter en décembre dernier
Une étude datant de 2015 estimait que, rien qu'aux États-Unis, une personne était tuée par un robot industriel chaque année, mais également que la plupart des accidents du travail depuis 2000 impliquant des robots avaient été mortels.
Commentaires (68)
#1
La robotique est finalement très proche des humains, elle tente d’éliminer la concurrence par tous les moyens.
#1.1
Ouais, en fait le robot était juste énervé qu’un gamin de 9 ans le batte
#2
Les trois lois de la robotique ne sont pas applicables en pratique.
Parler de robot permet du sensationnel et du dithyrambique mais les machines impliquées dans ces accidents ne sont pas plus avancées en prévention que le pied en tong et son pied de meuble ad hoc.
#3
A quand la fonction torgnole ? Là il y a un grand marché à conquérir…
#3.1
#4
C’est tellement bien vu !!
#5
“Skynet, the early years”
Il a le gout du sang, c’est trop tard nous sommes foutus. Il s’en prend même aux enfants
#6
J’ai pensé exactement au même gag, j’ai failli le décrire de mémoire mais j’ai eu la flemme. Merci pour l’image !
#7
Slate rappelle de son côté qu’un autre robot avait écrasé le pied d’un bébé en 2016, qu’un autre avait suggéré à une petite fille de s’électrocuter en décembre dernier
Non, Slate ne parle pas de robots mais de “machines”, terme plus générique. Une enceinte connectée n’est pas un robot. Ce n’est pas non plus une machine, d’ailleurs.
#8
J’y ai pensé aussi :)
#9
Si le garçon devait attendre avant de jouer, une simple lumière rouge / verte lui indiquant qu’il pouvait jouer en toute sécurité n’aurait pas été du luxe, d’après la vidéo il ne semble pas avoir de signal quelconque indiquant cela. Pour moi c’est plutôt un défaut du concepteur de la machine que la programmation du robot…
#10
de mémoire, en compet’ d’échecs, y’a un “double chrono” que chaque concurrent actionne après avoir joué, soir là y’en avait pas, soit le gamin a voulu jouer alors que la machine avait pas encore appuyé sur le chrono, soit la machine actionne le chrono avec un autre “bras”
si c’est le cas 2, le gamin aurait clairement pas du jouer
si c’est le cas 3, la machine est clairement mal fichue
si c’est le cas 1, 1 partout balle au centre ?
#10.1
Tout robot industriel ou non doit posséder des sécurités qui l’arrêtent instantanément quand il détecte une anomalie. La main du gamin dans le champ est une telle anomalie. Dans tous les cas c’est la faute du concepteur du robot.
Si par ailleurs le gamin a joué alors que ce n’était pas son tour, il doit être sanctionné (il le serait aussi s’il jouait contre un humain) selon les règles en vigueur aux échecs quand on gène un adversaire, pas en ayant la main estropiée par ledit adversaire…
#10.2
Avec des “si” on mettrait Moscou en bouteille…
Une machine qui casse un doigt, on n’est pas sur un simple “défaut de conception”…
#10.3
bah ça peut être un simple “défaut de conception”, et/ou un “usage non adapté à la conception”
utiliser une paire de ciseaux pour droitiers de la main gauche, c’est normal que ça soit inconfortable, tu peux pas reprocher au fabricant que ses ciseaux pour droitiers sont pas utilisables de la main gauche (sauf si c’est indiqué “pour gaucher” sur l’étiquette)
est-ce une machine “de labo”, donc prévue pour que les utilisateurs fassent attention et ne fassent rien tant que la machine est pas au repos
ou est-ce une machine censée être utilisable par tout le monde, dont des gamins qui vont pas forcément faire gaffe/écouter les consignes de sécurité
la conception n’est pas la même dans les deux cas, et un “défaut” pour l’un ne l’est pas forcément pour l’autre
je pinaille juste sur le terme “défaut de conception” hein
qu’il n’y ait pas de système d’arrêt d’urgence ou qu’il n’ait pas été activé par l’humain en charge de la machine n’est pas normal
que la machine ait la capacité physique de briser des os alors qu’elle doit juste manipuler des pièces que quelques dizaines de grammes max est aussi anormal
#10.4
Tu n’es pas obligé d’attendre qu’il est actionné sa pendule pour jouer.
#11
Il était vacciné au moins ?
#12
Celui là aussi…
#12.1
bonne référence
marqué par ce film (wargames) plus jeune, même s’il a vieilli je le trouve vraiment pas mal
#13
“Si la violence ne résout pas tous les problèmes, c’est qu’on n’a pas été assez violent”
#14
je dis pas le contraire, un doigt cassé est une “sanction” absolument anormale
soit la partie mécanique est incapable de blesser de par sa conception (matières déformables avec peu de force, moteurs/actionneurs “faibles” …), donc pas “besoin” de carter de protection voire de système “d’arrêt d’urgence”
soit le système peut blesser, et il faut un système d’arrêt d’urgence, à minima un bouton d’un humain doit actionner s’il voit un truc anormal (comme un gamin qui tend le bras alors que la machine est en mouvement) ET éventuellement un système automatique avec caméra/détecteur pour ne plus bouger si qqch est détecté automatiquement
#14.1
Lorsque l’on regarde la vidéo on voit bien ce qu’il se passe :
Le bras robotique semble est un bras industriel, ce n’est pas un truc “maison”, il doit donc suivre des normes.
Au passage, à gauche des plateaux on peut voir un petit boitier, c’est le chronomètre (comme on peut le voir dans cette vidéo). Clairement, l’enfant a fait une manipulation qu’il n’aurait pas du faire (ils ont surement reçu la consigne de ne pas mettre les mains sur l’échiquier tant que le robot n’a pas fini son coup), il était donc “hors cas d’usage” (la première sécurité, c’est suivre les consignes).
#14.2
j’avoue ne pas avoir été regardé la vidéo d’où mes “si” purement spéculatifs
idem, j’ai pas regardé la vidéo
pour la partie concernant la vitesse / accélération, c’est exact, cependant la partie “terminale” qui maintient la pièce pourrait très bien avoir été conçue pour une action lente et “faible” pour venir se ranger dans une partie du bras plus “costaud” qui serait capable de coller une beigne, mais pas d’écraser quoi que ce soit car éloigné de toute surface
ça je savais pas par contre :)
c’est exactement pour ça que les nouvelles que je préfère sont celles avec Gregory Powell et Mike Donovan (si j’écris bien), qui se retrouvent toujours a devoir comprendre comment un truc normalement impossible grâce/à cause des 3 lois a pu se produire
#15
Si le robot a une culture cinématographique, il a dû penser :
Sinon je suis d’accord avec ceux du dessus, c’est clairement un défaut de conception.
En cas d’interaction humaine (et donc imprévisible), la machine doit pouvoir s’arrêter en toute occasion.
#16
C’est vrai que la vidéo sur le site du Guardian est de mauvaise qualité, mais quand je regarde le début en boucle (jusqu’au moment où le robot attrape le doigt), voilà comment j’interprète ce que je vois :
Cela rejoint l’explication donnée (comme quoi le robot n’aurait pas anticipé la vitesse de jeu de l’enfant).
De toutes façons, quelque soit l’explication, un robot ne doit pas blesser un être humain, ni permettre que par son inaction un être humain soit blessé.
Donc c’est forcément un défaut.
Peu importe que c’en soit un “de conception” ou pas.
pour le coup, attention à la rapidité du mouvement du bras (accélération/vitesse) et à sa dimension, cela démultiplie la force nécessaire pour tenir la pièce (par rapport à juste la tenir immobile). mais c’est possible aussi que la pince soit prévue pour des pièces plus lourdes
#16.1
Regarde bien, tu verras que le bras mécanique, jouant les noirs, était en train de déplacer sa pièce (une reine ?). Et il a “juste” écraser le doigt de l’enfant dans son mouvement (son but n’était pas d’attraper le doigt de l’enfant).
Tu oublies “un robot ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée” qui prédomine la loi sur le fait de blesser un être humain. Et pour l’histoire, c’est loi ont été inventé par Asimov qui s’est amusé à les torturer pour pousser dans leur imperfection.
#16.2
Quand je disais “mauvaise qualité”… Effectivement, ça ressemble plus à ce que tu dis. Auquel cas, à mon avis c’est bien le robot qui joue mal puisque sans horloge, je ne vois pas ce qui interdirait à l’enfant d’anticiper le mouvement de la pièce noire (reine ou fou) pour la manger avec sa tour avant que le robot ne la déplace. Le robot serait un humain, cela lui “économiserait” un mouvement puisqu’il pourrait directement mettre sa pièce noire au rebut et jouer son coup suivant.
Quand à ce qui est de la loi Zéro, c’est toi qui oublies qu’elle ne concerne que deux robots et seulement deux (R. Giskard Reventlov et R. Daneel Olivaw), puis un seul après la “fin” du premier. Il s’en inspire ensuite, d’abord pour créer l’entité planétaire Gaïa, et une autre fois encore pour amener Hari Seldon à créer les deux Fondations.
Il est tout à fait inenvisageable que l’intelligence d’un robot joueur d’échecs puisse appréhender le concept même de cette Loi.
#17
C’était inévitable, le gamin lui cassait les pieds.
#18
En fait il a juste été programmé par un fan de Star Wars, dans la scène du jeu d’échec à bord du Millenium Falcon. Avec le Wookie qui est mauvais perdant et peut briser les deux bras de son adversaire.
#19
Euuh bof, plutôt non, non, non. La première loi de la robotique industrielle non-asimovienne est que tout système dont la sécurité repose sur le fait que des humains font tout ce qu’ils doivent et exclusivement ce qu’ils peuvent doit être considéré comme non sécurisé.
Sauf en Chine, ou il suffit de consullter un rekt du board /gif/ de 4chan, pour bien se rendre compte de leur façon de voir les choses.
#20
Et les commentaires de la news se transformèrent en réécriture de l’ISO 12100…
#20.1
Je suis curieux de savoir ce qui y est prévu en effet par cette norme. Après il ne faut pas oublier que c’est en Russie donc quid de leurs normes.
L’horloge est à gauche de l’échiquier et il ne l’avait pas encore actionné car il n’avait pas fini son tour. Il était justement en train de déplacer sa pièce.
#21
Merci pour ce commentaire qui m’a poussé à aller voir la vidéo moi même.
Et merci d’avoir détaillé, car la qualité de la vidéo ne me permet pas de voir tout ça moi même.
De mon point de vue les adultes ont pas vraiment l’air paniqués par cet imprévu.
Je n’avais pas compris le terme “saisi” ainsi.
#22
Comme le gouvernement vient de sonner le glas du passe vaccinal, on ne peut plus étaler notre connaissance approfondie de certains sujets de pointe, il faut bien qu’on se rabatte sur autre chose…
#23
On a jamais vu une boite de conserve faire preuve de sentiment…
#24
Bah le norme demande une analyse du risque banale: indentification des dangers, des situations dangereuses et des dommages. En annexe elle liste même des exemple dont celui là:
Examples of hazards
#24.1
OK, mais après avoir identifier les risques, qu’est-ce qu’il faut faire après ? Est ce que donner la consigne “ne pas mettre sa main au dessus de l’échiquier entre le moment où l’on appuis sur l’horloge jusqu’à que le bras arrête de bouger après qu’il ait appuyer à son tour sur l’horloge” suffit ? (façon Serge le lapin du métro parisien)
Dans quel cas ce genre de normes s’appliquent ? On n’est a priori pas sur une machine créer en série, mais plutôt dans un truc de laboratoire que l’on exhibe au public.
#25
Excellent !! Trop bien vu !
#26
Impressionnant les commentaires…
Ca montre le décalage avec la réalité des lecteurs de NextInpact, je comprend mieux les commentaires pro RN, pro LFI, pro sandrine rousseau, pro Quadrature du net maintenant.
C’est juste un accident. Pas la peine d’aller chercher une explication dans des livres de SF, dans des normes ISO, ou quoi que ce soit.
Hier j’ai voulu manger une pomme, mais pas de bol, je l’ai fait tomber. Qui va t’on mentionner, Newton, Guillaume Tell, Chirac ?
Bref…
#26.1
Ces accidents n’arrivent pas par hasard, ce type d’accident est un risque bien identifié de longue date en robotique.
Normalement, un robot industriel a une zone de fonctionnement bien délimitée que personne ne doit franchir pour des raisons de sécurité.
Si le robot n’avait pas de système spécifique pour détecter une collision accidentelle avec un humain (ce qui nécessite plus de capteurs, un contrôle des moteurs différent et d’autres changements, et est difficile à bien concevoir) il n’aurait pas dû être dans la même zone de fonctionnement qu’un enfant, même avec une personne qui surveille. Ou alors avec un système qui empêche physiquement l’enfant de jouer en même temps que le robot.
#27
Cette norme t’impose de définir et documenter:
Tu as parfaitement le droit de définir que péter les doigts des enfants qui jouent trop vite c’est “pas très grave” et que quand c’est pas très grave “une simple consigne” c’est suffisant.
Mais comme tu devras donner tous ces documents à une autorité pour recevoir une autorisation de mise sur le marché, il y a de grande chance qu’elle t’interdise de vendre ton appareil.
#28
Cela n’aurait même pas forcément suffi, pas grand chose ne pouvant dans ce cadre garantir que le bras robotique bien trop costaud pour ce type d’usage attende sagement son tour de jeu. J’ai pour ma part à la base un peu de mal à voir l’intérêt de jouer physiquement sur table contre une IA. Autant le faire sur écran.
Ils ont voulu se la jouer grand spectacle et ont avec le matériel choisi eu du bol, la blessure n’est pas trop sérieuse.
#29
Oui pourquoi réfléchir aux causes éventuelles d’un accident, c’est tellement inutile.
#30
ça dépend, si le gamin était aussi un pianiste en devenir … :/
(je floode un peu ici aujourd’hui, désolé)
#31
-Newton, perdu, vu qu’il avait bel et bien “cherché (et trouvé) une explication” à son accident de sieste.
-Guillaume Tell avait une adresse excluant l’accident.
-Il est inimaginable de penser que Chirac ait pu faire tomber de la nourriture!
La pomme ne sera pas responsable non plus de sa chute de ta main. Commentaire 100% stupide en fait.
#32
La réponse des organisateurs est édifiante, en gros, rejentant la faute sur l’enfant… évidemment..
#33
Ben si le môme c’était cassé le doigt faisant du skate, on ne dirait pas que c’est la faute du skate. On dirait, faire du skate c’est dangereux. Bon ben jouer au échec avec un robot mécanique, c’est dangereux. Un peu moins que faire du skate quand même, mais le pb c’est que les joueur d’échec c’est des intellos, les sports extrême ou mécanique c’est pas leur truc et ils ont pas l’habitude de se casser des membres en jouant à des sports mécaniques. Z’ont qu’à retourner jouer à des jeux vidéos, c’est moins dangereux.
#34
La Russie c’est différent, mais en Europe une machine doit être conforme à la directive 2006/42/CE, qui de manière très simplifiée exige pour tout produit mis sur le marché (le petit logo “CE”) :
En clair, si c’était arrivé en Europe, le gamin n’y est pour rien, c’est soit le concepteur de la machine qui a mal évalué et sécurisé le risque (si la machine est prévue pour être utilisée par le grand public), soit l’exploitant si il a laissé un gamin l’utiliser (si le constructeur a clairement indiqué que la machine devait être utilisée par un personnel formé et habilité).
#35
Si par accident tu veux dire “un évènement non souhaité”, alors oui c’était un accident.
Mais la question était de savoir si c’était “raisonnablement prévisible”.
Car si la réponse est oui, alors qqn est en tort. Et Il est en tort car c’est justement ce que demandent les lois et les normes: faire en sorte que ce qui est raisonnablement prévisible devienne fortement improbable.
Quand tu fais un bras de fer avec un bras robot d’une ligne de montage de voiture, il est raisonnablement prévisible que ca va te péter le bras. Et donc il vaudrait mieux mettre un limiteur de couple sur les moteurs.
#36
6 pages de commentaires qui prouvent que les titres racoleurs ont de beaux jours devant eux.
Il faut faire un article dès qu’un ouvrier se blesse sur une machine ?
PS : je ne critique pas NextInpact, cette news a fait le tour du web ce qui justifie sa présence ici.
#37
comme d’hab, un bon cobo, c’est derrière le grillage, et donc c’est plus un cobo mais un robot classique
#38
Ce truc-là serait une horloge ? Mais alors… cela voudrait dire qu’un enfant aurait fait une erreur en jouant aux échecs ? ou pire encore, qu’il aurait tenté de tricher au échecs face à un robot ?
Naaaaaaaan, c’est impossible. Im-po-ssi-ble.
Le skate est un objet inerte et ne se déplace pas par lui-même.
Le robot s’actionne et se déplace de lui-même, par lui-même.
Et en plus, on peut améliorer la conception (pièces aimantés et pas de pince par ex.) et le fonctionnement (pince capable de détecter si c’est bien une pièce entre ses mâchoires avec des tags rfid) du robot pour que cela n’arrive pas, alors que pour le skate on ne peut pas faire grand chose.
#38.1
Oui tu as raison. Je voulais surtout faire un commentaire amusant. L’article illustre bien le transfert de responsabilité qui s’opère lorsque l’on donne de l’autonomie aux machines et la limite n’est pas du tout simple et évidente comme on pourrait le penser au premier abord ou en simplifiant trop comme je l’ai fait dans mon commentaire.
#39
Quel rapport avec cette brève ?
Nextinpact devrait parler de ce qui fait le tour du web ?
Toi et les autres pourriez lire un autre article et la fermer au lieu de faire perdre du temps à ceux que le sujet intéresse.
#40
Peut-être qu’avec un/des capteur(s) thermique(s) sur toute la surface de contact prévue, qui détecte que c’est de la peau humaine à 37° et pas du bois/métal/plastique plus froid, la machine aurait pu détecter la main, sous réserve d’interdire les bijoux en jouant.
#40.1
Il y a plus simple, suffit de regarder les vitres électriques des voitures qui sont équipées de système anti-pincement ou les portes automatiques à rideaux, c’est le principe du “bord sensible”.
#40.5
c’est vrai, bonne idée
merci pour la réponse très détaillée et la présentation du sawstop.
Pour la deuxième partie, je trouve aberrant qu’on mette des gamins en interaction avec des robots non sécurisés, si c’était des adultes ça m’interpellerait moins. Je pense qu’en tant qu’enfant il n’avait pas forcément la même conscience du danger qu’un adulte ni le même respect volontaire ou non des règles, en tout cas j’aurais déconseillé à tout le monde de mettre mon moi enfant en face d’une machine non sécurisée ; et qu’en tant que joueur expérimenté d’échecs il avait peut-être des réflexes qu’un joueur humain perçoit sans problème et pas un robot, comme le mouvement qu’il a fait ici.
oui je pensais à ce genre de choses, que la “main” qui bouge/déplace les pièces/touche le plateau soit équipée de capteurs. Je n’y connais rien en robotique, mais j’aime bien chercher une idée solution. De toute façon comme tazvld l’a dit ça n’aurait servi a rien avec une pièce d’échecs comme intermédiaire.
#40.2
Un capteur thermique sur toute la surface, tu penses a quoi comme type de capteur ?
genre un gant qui envoie un signal OFF s’il a senti 35 degres a un endroit ? ca existe ?
Comment ca marche quand il fait 35 degres par exemple ?
“toute la surface prevue” c’est laquelle ? le bras entier ?
et la surface non prevue c’est pas dangereux aussi ?
#40.3
Comme je l’ai dit plus haut, si tu regardes bien, le robot était toujours dans son tour et il était en train de placer sa pièce. Il a écraser avec cette pièce la main du gamin qui se trouver à l’endroit où il était en train de la poser. Donc la main robotique n’a pas forcément été en contact direct avec le doigt du gamin (ou seulement après lui avoir déjà bien écraser).
Mieux que je capteur thermique, Il existe dans les scies circulaire sur table haut de gamme des sécurité (le sawStop) qui rétracte et arrête la scie au contacte de la peau qui fonctionne tout simplement par le changement du courant électrique au contact de la peau (la scie étant en métal conduit le courant qui est détectable des qu’elle entre en contact avec la peau). Cette technique pourrait être plus applicable et bien plus efficace que ton capteur thermique, mais dans le cas présent n’aurait servi cependant toujours à rien (le contact semble s’être surtout fait avec la pièce d’echec).
La solution la plus simple serait toutes conne : mettre des capteurs de proximité autour de l’échiquier qui détectent si un objet passe au dessus. Si c’est le cas, le bras s’arrête et une alarme stridente retentit (ou une voix qui dit “сука блять don’t rush B..astard.”)
Mais bon, là clairement on est sur un objet de démo technique, un proof of concept un truc qui n’est pas industriel et mis en vente. Il faut le manier avec précaution, ce genre de risque était surement connu (ils ont juste mit un automate bête et méchant derrière un algo de jeu d’échec) et je serais étonné qu’aucune consigne de sécurité n’ait été indiquer en amont.
#40.4
Dans ce cas, un simple capteur de force paramétré assez bas suffisait, il n’est pas nécessaire d’exercer une pression élevée pour déposer une pièce d’échec.
#41
Dans quelques années, c’est pas que le doigt que le robot va “casser”.
#42
Juste une Question pourquoi il y avait un robot comme adversaire ? Salon de robotique, etc..