Connexion
Abonnez-vous

Reconnaissance faciale, politique, religion : comment la France a affaibli l’AI Act

Reconnaissance faciale, politique, religion : comment la France a affaibli l’AI Act

Le 23 janvier à 17h08

Le 2 février prochain, les articles de l’AI Act concernant les risques dits « inacceptables » de l’intelligence artificielle entreront en vigueur.

En amont de sa signature, la position de la France, et notamment le rôle joué par Cédric O, ancien secrétaire d’État chargé du numérique devenu conseiller pour la start-up Mistral AI, ont été largement scrutés.

De fait, démontrent Disclose et Investigate Europe, compte rendu des négociations à l’appui, la France a déployé une opération de lobbying intensif dans les derniers moments du débat pour atténuer certains passages de la réglementation.

Fin 2022, Paris fait tout pour que « l’exclusion des questions de sécurité et de défense (…) soit maintenue » dans le règlement, c’est-à-dire que ces secteurs ne soient pas concernés par les interdictions portant sur les systèmes de reconnaissance faciale en temps réel, l’un des usages les plus intrusifs de ce type de technologie. 


D’après l’une des sources de Disclose, la France est le seul pays à avoir demandé cette exclusion totale, notamment par le biais d'un courrier signé du Secrétariat général aux affaires européennes, placé sous l’autorité de Matignon.

Dans un courrier envoyé au secrétariat du Conseil de l’Union européenne, ce dernier a par ailleurs précisé que l’Hexagone considérait « très important de préserver la possibilité de rechercher une personne sur la base de critères objectifs exprimant une croyance religieuse ou une opinion politique ».

Aux côtés d’autres pays comme la Grèce, la France a par ailleurs obtenu que prisons et zones de contrôles aux frontières soient « exclues de la définition de l’espace public », donc que les États membres puissent y déployer toutes sortes de systèmes, dont certaines à la validité scientifique contestée, comme ceux de reconnaissance émotionnelle.

Le 23 janvier à 17h08

Commentaires (17)

votre avatar
Exclure de la définition de l'espace public les prisons et les postes frontière alors que ce sont bien des établissements recevant du public me parait particulièrement indéfendable au regard des concepts de sortie de secours, de jauge admissible ou encore de désenfumage.

La technocratie contemporaine embauche vraiment les passants. On se demande bien si ces derniers (pseudo-scientifiques) ont au moins reçu une formation aux premiers secours en distanciel !
votre avatar
Un espace public et un espace recevant du public sont 2 choses différentes. Un espace public désigne un espace accessible à tous et toutes. Un espace recevant du public peut être une salle de concert ou de mariage (majoritairement privée). A priori une prison ou un poste frontière ne sont pas des endroits "accessible à tous".
votre avatar
Le permis de visite ou le passeport sont bien ouverts à tous. Ces équivalents du billet d'entrée ou du contrôle d'accès ne valent pas nullité de la définition légale d'un établissement recevant du public dont le propriétaire du foncier et des murs est in fine responsable. Remettre en question l'espace réel, tangible, déjà plutôt bien administré et compréhensible, au profit du cyberespace débridé, opaque à l'expérience vécue, est une constante du technocrate bas de gamme qui croit en faute que la nue-proprieté lui permettrait d'éviter les CCDSA.

Si le caractère public des lieux n'est pas valide, doit-on alors comprendre que les postes frontière et les prisons sont désormais des lieux de concurrence supra' au nom de la sacro-sainte économie numérique ?
Cette économie peut-elle justifier que des personnes "suspectes" a raison du type d'établissement visité meurent un jour dans un incendie ?
votre avatar
la France est le seul pays à avoir demandé cette exclusion totale, notamment par la loi du Secrétariat général aux affaires européennes, placé sous l’autorité de Matignon.
Je ne comprends pas ce que ça veut dire, le "par la loi".

Mais, c'est peut-être une erreur que j'aurai pu signaler...
votre avatar
Je ne sais ce qui avait sauté, mais j'ai corrigé : par le biais d'un courrier signé du Secrétariat
votre avatar
Question : en ces temps troublés, vaut-il mieux affaiblir l'AI Act ou les moyens de sécurité et de défense des pays de l'UE ?

Vous avez 4 heures.

Quant aux croyance religieuses ou opinion politique, ça peut aider à chercher dans certains cas des terroristes (indépendantistes, d'extrême droite ou islamistes (sachant pour ces derniers que seule une très petite partie des musulmans le sont) par exemple). Par contre, je ne vois pas trop ce que vient faire l'IA ici, ce genre de recherche pouvant se faire sans IA.
votre avatar
Pour la recherche de gens par leur opinions politiques j'aurais pensé à certains écologistes
votre avatar
En lisant ton commentaire mais avant de suivre ton lien, j'ai pensé à l'"écoterrorisme". :D

Plus sérieusement, ça peut être toute opinion politique extrémiste qui peut tendre vers le terrorisme.
Si j'ai cité ceux-là, c'est par rapport à mes commentaires sous l'article parlant d'attentats qui recensaient les différents types d'attentats ou tentatives en France.
votre avatar
en allant sur l'article de disclose on peut notamment lire :
Imaginez que vous participiez à une manifestation pour le climat, que vous portiez un badge ou que vous brandissiez une pancarte. Une caméra « intelligente » détecte ces signes, enregistre votre visage et transmet les images à la police pour les comparer au fichier des personnes recherchées pour crimes environnementaux. Vous n’y figurez pas, mais les données restent stockées.
Par cette requête, la France veut garder la possibilité de recourir à la reconnaissance faciale en temps réel dans l’espace public, en cas de risque pour la sécurité du pays. Cela vaut aussi pour le maintien de l’ordre. Ce que confirme une source en première ligne des négociations : « La France considère que l’ordre public fait partie de la sécurité nationale, c’est pourquoi elle a réclamé que tous les aspects du maintien de l’ordre soient exclus du règlement. Elle est le seul pays à avoir demandé cette exclusion totale ». Des manifestant·es accusé·es de troubler l’ordre public pourraient ainsi devenir les cibles légales de la reconnaissance faciale.
Si un État estime que sa sécurité est en jeu, il pourra aller jusqu’à rechercher une personne sur la base de la « race, opinions politiques, affiliation à une organisation syndicale, convictions religieuses ou philosophiques, vie sexuelle ou leur orientation sexuelle », grâce à la science algorithmique. (...) Celui-ci souligne que la France estime « très important de préserver la possibilité de rechercher une personne sur la base de critères objectifs exprimant une croyance religieuse ou une opinion politique ». Une surveillance qui serait rendue possible grâce, notamment, est-il précisé, à la détection du « port d’un insigne ou d’un accessoire, lorsque cette personne est impliquée dans l’extrémisme violent ou présente un risque terroriste ». Un badge d’un mouvement écologiste classé « extrémiste et violent » pourrait donc motiver l’allumage de caméras dopées à l’IA.
On peut lire sur next.ink Next là où les drones ont été le plus utilisés, beaucoup de manifs.
votre avatar
Ben c'est typique d'un gouvernement qui considère toute opposition même intellectuelle comme illégitime et inutile, je ne voit rien d'étonnant par les temps actuels.

(C'était quel politique qui avait eu l'idée de faire un fichier des "gens biens" ? )
votre avatar
Quel parti politique considère son opposé comme légitime et utile ? Parce qu'actuellement, je n'en vois aucun.
votre avatar
Question : en ces temps troublés, vaut-il mieux affaiblir l'AI Act ou les moyens de sécurité et de défense des pays de l'UE ?
La priorité de l'UE c'est la protection de son économie, pas la sécurité/défense du territoire.
L'UE acceptera tous les affaiblissements de tous les Acts tant que ca ne nuit pas à l'économie.

Ce que l'UE vend au reste du monde, c'est l'accès à son marché intérieur.
En étant cynique, L'UE est un vaste parc à moutons consuméristes. :D
votre avatar
Je suis assez d'accord avec toi, mais ça ne répond pas à ma question.
votre avatar
La priorité de l'UE c'est la protection de son économie, pas la sécurité/défense du territoire.
Normal, ce n'est pas de sa compétence.
votre avatar
La sécurité est une compétence partagée comme le dit ta page en lien.
C'est détaillé un peu plus ici.
Sinon, il n'y aurait pas de Frontex ni d'Europol par exemple.

Pour la défense, je suis d'accord même s'il y a de plus en plus d'actions coordonnées dans le cadre de l'UE.
Et le conflit en Ukraine ainsi que l'arrivée de Trump vont accélérer les actions communes.
votre avatar
C'est une blague, j'espère ? Tu troll exprès ?
Le système démocratique est le système le plus perméable à l'instauration de régimes autoritaires.

On le voit avec les US, maintenant qu'ils ont des frappadingue à la tête de leur Gvt et ils vont utilisés les ressources du Gvt pour faire passer leur délires légalement.

Alors discriminer les personnes lambda sur la voie publique avec des outils de surveillance massive en raison de leur idées politiques ou religieuses me fout carrément les jetons.
votre avatar
Peu importe le précédent politique en place, les frappadingues de service sont de sortie partout quand le peuple est divisé ou peut être dominé - peur, scission de l'opinion ou simple je-m’en-foutisme des masses.

Vladimir, Donald - et bien d'autres - sont malheureusement libres de leurs mouvements en ce moment et ils ont réussi à se construire un entourage suffisamment favorable pour pouvoir mettre en œuvre leur vision du monde. Nos politicards à nous sont fortement tentés à tous les niveaux de se comporter de la même façon, puisque les autres sont apparemment libres de faire ce qu'ils veulent...

Je vois deux points inquiétants en soi :

1) des fous accèdent à la tête des armées les plus puissantes au monde. Et s'ils ont envie de quelque chose, ils le prendront. A titre d'exemple, ce ne serait pas la première fois que les États Unis envahissent un pays ou renversent un régime par pur intérêt économique ou d'influence. Pour moi, aucune différence entre EU et la Russie - et bien d'autres, très visibles depuis quelque temps - si ce n'est la violence apparente de la méthode employée.

2) chaque fois qu'un dingo entreprend quelque chose, on le laisse faire. Ils se permettent de violer toutes règles en place et personne n'est en mesure de les isoler, comme il faudrait le faire. De facto, le monde est divisé entre ceux qui laissent faire car pas immédiatement touchés, ou du même bord, et des pays qui sont encore dotés de bon sens, mais sans moyens d'intervenir.

Alors, oui, moi aussi je suis inquiet des discriminations à venir. Mais nous sommes clairement dans un mouvement massif de polarisation que seules les masses pourraient bloquer. Et comme les masses sont faciles à berner ou à acheter, nous continuons de foncer vers le mur...

Reconnaissance faciale, politique, religion : comment la France a affaibli l’AI Act

Fermer