Les autorités israéliennes se sont dotées de nouveaux outils de reconnaissance faciale pour restreindre la liberté de mouvement et surveiller la population résidant dans les territoires palestiniens occupés (TPO), révèle Amnesty International.

Dans un rapport, intitulé « Apartheid automatisé », l'ONG révèle en effet l'existence de « Red Wolf » (« le loup rouge »), déployé par les autorités israéliennes aux checkpoints de la ville d’Hébron, en Cisjordanie occupée, qualifiée par l’armée israélienne de « ville intelligente », afin d'identifier les personnes qui s'y rendent ou en sortent, « à leur insu et sans leur consentement ».

Red Wolf serait lui-même relié à Wolf Pack, une vaste base de données contenant toutes les informations disponibles sur la population palestinienne de Cisjordanie occupée : lieu de résidence, identité des membres de leur famille, s'ils sont recherchés en vue d’être interrogés par les autorités israéliennes, etc. 

« Les soldats israéliens peuvent simplement vous dire que votre nom n'est pas dans la base de données, et alors, vous n'êtes pas autorisé à retourner dans votre maison », déplore un habitant d'Hébron.

À Jérusalem-Est, un réseau de milliers de caméras, en constante augmentation, serait par ailleurs modernisé « afin d'améliorer ses capacités de reconnaissance faciale et de se doter de pouvoirs de surveillance sans précédent ». Dans l'un de ses quartiers, l'ONG a « constaté la présence de d'une ou deux caméras tous les cinq mètres ».

Sur la base des témoignages de militaires israéliens, recueillis par l’organisation israélienne Breaking the Silence, Amnesty a découvert que des commandants distribuaient des prix aux soldats ayant scanné le plus de visages de Palestiniens, à la manière d'un jeu digne de « Black Mirror ».

L’État américain du Wisconsin utilise dans ses écoles un logiciel de prédiction de décrochage scolaire biaisé, a découvert le média « non profit » The Markup. DEWS, pour Système d'alerte précoce contre le décrochage scolaire (en anglais, Dropout Early Warning System), c'est le nom de ce logiciel qui promet d'aider le personnel éducatif à repérer les élèves en difficulté.

Le média explique qu'aux États-Unis, ce genre de systèmes est assez courant. Sauf que DEWS, qui est utilisé depuis 10 ans par ces écoles, s'appuie sur des données autres que les notes pour faire ses prédictions comme la « race » (catégorie sociologique utilisée aux États-Unis) ou les tarifs payés à la cantine. Selon The Markup, l'état du Wisconsin est au courant depuis 2021.

Mais le média va plus loin et explique que DEWS se trompe quasiment trois fois sur quatre quand il prédit qu'un élève ne va pas avoir son diplôme, et c'est le cas plus souvent quand les élèves sont noirs ou hispaniques.

Une étude scientifique (pas encore relue par les pairs) menée par des chercheurs de Berkeley montre que si DEWS n'a visiblement pas d'effet sur les élèves qui sont étiquetés avec le plus gros risque, il pousserait à moins s'occuper des élèves noirs et hispaniques.

Association visant à réunir les membres de l’écosystème français de l’intelligence artificielle, le Hub France IA vient de publier une note sur les usages et les impacts de ChatGPT, assortie de recommandations.

L’entité y qualifie le moment ouvert par le lancement (et le succès) du modèle génératif d’OpenAI de « deuxième vague de l’IA », centrée sur les modèles génératifs, là où la première se concentrait sur les modèles dits « prédictifs ».

Pour un modèle dédié au texte comme ChatGPT, le groupe de travail identifie quatre principaux types d’usages : ceux de rédaction, de classification, de synthèse et de traduction. Le document souligne aussi des cas d’usages dans des industries aussi diverses que le BTP, la santé ou la cybersécurité.

Parmi les impacts et risques de ce type de machine, le Hub alerte sur différents risques spécifiques aux entreprises (problématiques juridiques, non-conformité, manque de contrôle de la machine) et plus large.

Sur un plan plus large, le Hub reste relativement circonspect sur la probabilité qu’a ce type de machine de remplacer des millions d’emplois, suggérant plutôt une modification des tâches effectuées pour intégrer ce type d’outils. Il souligne aussi de réels risques environnementaux, éthiques et juridiques à l’échelle de la société.

La note formule enfin trois grands types de recommandations : elle enjoint les entreprises à créer des cadres rigoureux pour l’usage de ce type d’IA ; elle suggère aux institutions, notamment éducatives, de rendre très claires les cas dans lesquels l’usage de ces modèles est autorisé ; elle milite enfin pour le financement de solutions européennes souveraines et open-source, accessibles pour les grosses comme pour les petites et moyennes entreprises.

En conclusion, elle pousse à former tous les acteurs susceptibles d’interagir avec ce type d’outils, à ne pas interdire, mais à cadrer clairement leurs usages et à mettre un accent particulier sur la sécurisation des données et la vérification des informations produites.