Dans leur communiqué, les députés « appellent à nouveau à un cadre juridique européen avec des définitions et des principes éthiques ». Ils expliquent que les règles « doivent garantir que la dignité humaine et les droits de l'homme soient respectés et que les systèmes d'IA soient soumis à un contrôle humain significatif, permettant aux humains de les corriger ou de les désactiver en cas de comportement imprévu ».
Dans le cadre d’un usage militaire, les systèmes d’armes létales autonomes « ne devraient être utilisés qu'en dernier recours et n'être légaux que s'ils sont soumis à un contrôle humain, étant donné que c'est aux humains qu'il incombe de décider entre la vie et la mort ». Les députés ajoutent que « l'utilisation accrue des systèmes d'IA dans les services publics, en particulier les soins de santé et la justice, ne devrait pas remplacer le contact humain ou entrainer de la discrimination ».
Enfin, ils « mettent en garde contre les menaces aux droits fondamentaux dues à l'utilisation des technologies d'IA dans la surveillance de masse dans le domaine civil et militaire » et « appellent à une interdiction des "applications de notation sociale hautement intrusives" par les autorités publiques ».
Le Parlement souhaite que l’Europe joue « un rôle de premier plan dans la promotion d'un cadre mondial sur l'utilisation militaire de l'IA, aux côtés des Nations unies et de la communauté internationale ». Il faudra maintenant voir si de telles ambitions seront suivies de faits concrets, que ce soit au niveau européen ou international.
Commentaires (23)
#1
« doivent garantir que la dignité humaine et les droits de l’homme
soient respectés ..
sérieux ?
#2
Donc pas de problème de notation sociale hautement intrusives par les sociétés privé (assurance, mutuelle, GAFAM …) ?
#3
L’éthique et l’IA ça a l’air de bluffer encore du monde tellement le terme IA est mystique…et si on posait le problème autrement :
L’éthique et le traitement automatisé.
Ça va mieux la ?
#4
Enfin, merci !
Tout ça bullshit quand même très fort pour résoudre des problèmes qu’on s’imagine être du futur alors qu’ils n’ont rien de différent des problèmes actuels.
Si j’écris une appli de catégorisation sociale qui se base sur des jeux de données classiques et y applique des algos standard, ça passe crème du moment que je me défend en disant que “c’est pas une IA” ? Oh wait, ça s’appelle un algo de ciblage publicitaire.
Déjà que personne n’est vraiment d’accord sur ce que peux bien être une IA, bon courage pour y implémenter une routine de contrôle qui garantisse “que la dignité humaine et les droits de l’homme soient respectés”.
#5
+1
#6
« l’utilisation accrue des systèmes d’IA dans les services publics, en particulier […] la justice, ne devrait pas remplacer le contact humain ou entrainer de la discrimination »
Si y a bien un endroit ou on discrimine à la tête du client, c’est bien dans la justice.
Y a rien de moins juste que la justice elle même, suivant si t’es un homme ou une femme, blanc ou noir, avant mangé ou pendant la digestion, si t’as un col blanc ou si tu roules en 205 GTI (l’un n’empêche pas l’autre me dira-t-on), et même tout simplement des afinités du juge, le jugement n’est clairement pas partial.
#6.1
Autant je peux entendre les arguments d’une justice à 2 vitesses du fait des réseaux (le carnet de contacts), du fait de la précarité du système judiciaire, autant c’est diffamant de dire que la justice se fait à la tête du client en France.
D’autant qu’une IA n’est qu’un robot sans jugement, sans notion de nuance ou de contexte. Une IA n’a rien dans le crâne. Regarde RoboCop de Paul Verhoeven datant de 1987.
#7
Je suis désolé, j’en remet une couche, mais quand on voit que Sarkozy ne prend que 2 ans ferme pour un sujet aussi important que de devenir président sans légitimité… Et puis bon, faut pas rêver mais la prison, ca sera pas une cellule random de Fleury…
#8
#9
Il a été jugé? Tu es certain?
#9.1
C’est même pire que ça, c’est uniquement ce qui est requis (donc en pratique, le maximum de ce qu’il pourrait prendre).
#9.2
“1 an avec sursis + une amende de 50 000 Euros, et (cadeau) non-inscription
au ‘Casier Judiciaire’ (donc, pourra être à nouveau candidat)
#9.3
A mon avis tu rêves
Moi je parie sur un non lieu
#9.4
Pari tenu.
Ce ne peut pas être un non lieu puisque celui-ci ne peut être prononcé que par un juge d’instruction.
Le non lieu est : une décision par laquelle le juge d’instruction déclare qu’il n’y a pas lieu de poursuivre en justice.
Ordonnance de non-lieu.
Par contre, il peut y avoir un acquittement ce qui voudrait dire que le Parquet l’a poursuivi pour rien et que le juge d’instruction l’a renvoyé pour rien devant le tribunal.
#9.5
Merci pour les précisions.
Je pensais (bêtement) que c’était quand il n’y a avait pas assez de preuves, bénéfice du doute tout ça :)
#10
Heu non, c’est ce qu’a demandé le ministère public. Le juge peut décider ca, comme il peut décider plus ou moins. C’est uniquement un avis consultatif.
#10.1
Ça arrive souvent que le juge donne plus que ce qui est requis ? (vrai question, je n’ai aucun chiffre là dessus en tête, mais sincèrement ça m’étonnerait fortement)
#10.2
Ca ne semble pas spécialement fréquent, mais en cherchant un peu il y a eu des cas où le jugement a été plus sévère que la réquisition du ministère public.
Exemple trouvé :
https://www.20minutes.fr/lyon/1642383-20150630-lyon-chauffeur-percute-bebe-condamne-deux-ans-ferme
D’après un autre article le ministère public avait requis 1 an ferme et 2 ans de sursis + mise à l’épreuve de 3 ans.
#10.3
c’est pour ça ‘qu’ils’ font, souvent, appel (peine minorée), car le ‘risque’
n’est pas
assezgrand !“si, c’était la roulette russe”, ils y réfléchiraient ‘à 2 X’ AV. de….. !
#11
Si le jugement n’est pas partial, c’est qu’il est impartial. Donc, c’est bien.
Tu as décidément du mal avec ce qui concerne la justice :
il n’est pas encore jugé et encore moins condamné. Comme indiqué, c’est les réquisitions du Parquet les 2 ans fermes + 2 avec sursis.
Cela n’a rien à voir avec “devenir président sans légitimité”, il s’agissait “juste” d’obtenir des informations auprès d’un magistrat sur l’affaire Bettencourt
Comme beaucoup, s’il était condamné à 2 ans fermes, il y a de fortes chances que le juge d’application des peines aménage la peine et qu’il n’aille pas en prison.
#11.1
Qu’on soit bien d’accord, ca n’a rien à avoir avec le fait d’être de droite ou de gauche, avec ou contre sarkozy, je parle de jugement.
Dans le mauvais ordre:
https://www.google.com/search?q=sarkozy+bettencourt+financement+campagne
campagne financé illégalement, donc à peut-être pris la place d’un autre candidat, donc illégitimité
La justice à ce niveau la, c’est du copinage. Il sera condamné ou non suivant le sens du vent en ce moment au ministère de la justice. Le jugement est rendu sur une écoute, qui n’est qu’un point de détail. C’est comme si j’écrasais un gamin en tournant sur un carrefour et qu’on me jugeait sur le fait d’avoir mis mon clignotant ou pas. La loi ne prévoit de toute façon de prise illégal de pouvoir, et ce qui a été fait est fait. Ne requérir que 2 ans pour ce genre de trahison, c’est ridicule.
Pas besoin d’une boule de cristal pour savoir qu’il n’ira pas à Fleury. Si il va en prison un jour, ca sera dans un palace. En attendant, il s’est, et se sucre encore, avec nos impots.
Magnifique exemple de belle justice pour nous autre ici bas.
Et pour en revenir au sujet, même si c’est de la SF aujourd’hui, je suis totalement pour un jugement impartial (merci pour avoir remonté l’erreur) via une IA.
#11.2
Tu mélanges tout sur Sarkozy, je ne vais pas continuer à discuter. Je vois que c’est inutile.
Quant à un jugement par IA, j’espère que je ne verrai jamais ça. Quand on voit les biais divers des IA. En plus, on adapte la peine à chaque personne condamnée, c’est cela de la justice humaine et ça n’empêche pas l’impartialité. Une justice rendue par une IA serait inhumaine.
#12
Carrément, tout ça pour un code de 2 millions de lignes essentiellement composé de