Différents constructeurs de modèles grand public d’intelligence artificielle, à commencer par Open AI, sont sous le coup d’enquêtes des autorités de protection des données canadiennes ou européennes. L’Italie a même banni temporairement ChatGPT le temps que l’entreprise se mette en conformité avec le Règlement général sur la protection des données (RGPD).
Problème, rapporte la Technology Review : les modèles sont construits de telle sorte (en récupérant d’immenses sommes de données en ligne) qu’il est quasiment impossible pour leurs créateurs de se conformer aux réglementations.
Si bien que selon le contrôleur européen de la protection des données Wojciech Wiewiórowski, interviewé par le média américain, les régulateurs doivent se préparer à l’éventualité d’un scandale à la Cambridge Analytica, qui a durablement éclaboussé Facebook.
D’un point de vue réglementaire, la plus grave infraction qu’avait commise l’entreprise n’avait pas été de collecter des données, mais de le faire à des fins prétendument scientifiques pour finalement les utiliser dans un autre but : celui de créer un profilage politique.
« L’approche européenne est liée à la finalité d’utilisation des données collectées », indique le contrôleur. « Si vous changez cette finalité », et si vous le faites sans prévenir, ou en donnant des informations fausses, « vous commettez une infraction. »
Pour Wojciech Wiewiórowski, les entreprises de la tech devraient construire des technologies intégrant des fonctionnalités de protection de la vie privée dès le départ – même s’il admet qu’il est difficile de les convaincre d’adopter ces approches « privacy-by-design » quand les entreprises doivent sortir leurs produits rapidement.
À la question « est-ce que la régulation freine l’innovation ? », le contrôleur répond que le problème devrait être reformulé pour se demander si, vraiment, nous souhaitons donner aux entreprises un accès illimité à nos données personnelles.
Le but des régulations, continue-t-il, est simplement de rendre l’innovation « plus civilisée ».
Commentaires (21)
Bah ce n’est pas une option, y’a aucune urgence avec ces IA, le besoin n’a jamais existé, ça a l’air amusant, mais y’a aucune raison de se précipiter ou de ne pas respecter la loi.
Les limitations de vitesse freinent les déplacements, mais ce n’est pas une raison pour rouler à 180km/h sur l’autoroute :)
Mon pronostique:
Vous me direz, on est habitué. Quand je regarde mon environnement high-tech/numérique, il n’y a aucune technologie européenne.
(message envoyé depuis mon Ordinateur Thomson via mon modem Olitec)
Tous les autres pays (une majorité en tous cas) imiteront l’Europe pour ses règles de gestion RGPDXYZ” comme c’est le cas pour le RGPD.
Tout à fait
Par rapport à ces problématiques de RGPD, quand les gens auront compris qu’ils sont le produit, un grand pas aura été franchi. On peut laisser des infos pour se faire profilé en toute connaissance de cause.
Si on ne veut pas, il faut commencer à payer, son mail par exemple, contrôler ses publications, sur les réseaux sociaux notamment. Après, je milite pour un cloud privé, via un NAS, qui est cohérent avec l’idée originelle d’Internet.
Vous êtes un peut en retard. Il y a déjà un texte européen en cours, l’Artificial Intelligence Act, sur l’usage des “ia”.
En quoi les réglementations européennes/françaises ont freiné le développement des technologies européennes/françaises dans le domaine du numérique ?
Je ne dis pas que ces lois ne sont pas bonnes (aspect “moral”), et qu’elles ne finiront pas par être adoptées par tout le monde. Mais juste qu’elles sont contraignantes et donnent donc un avantage compétitif à court/moyen terme aux pays qui ne sont pas contraint de les respecter.
Je reviens de futur, et je peux te dire que la prochaine découverte révolutionnaire (et brevetée) sera découverte grâce à l’utilisation d’une IA générative. Et c’est dommage pour les Européens qui avaient un moratoire sur IA pendant ce temps là.
Brevetée, c’est probable, il existe des tonnes de brevets à la noix, mais révolutionnaire, ça c’est moins sûr, à moins de faire des IA folles, c’est envisageable, aussi, ça l’est déjà un peu par moments, si j’ai bien compris, quand on les pousse à bout.
C’est plus une question de culture. Les entreprises US ne s’embarrassent pas de respecter la loi, même en Europe, quand ça permet d’obtenir un avantage compétitif (Uber, Airbnb, etc.). Pourtant, sur le papier, la loi qui s’applique en Europe aux entreprises US et européennes est la même.
Pour bosser avec deux entreprises similaires US et FR, j’ai constaté une différence qui m’a fait sourire:
C’est deux approches du meme problème, mais ca n’a pas les mêmes effets sur le time to market.
En effet, les entreprises US sont plus promptes à prendre des risques pour s’accaparer un marché, quitte à faire de la PR et du damage control après, plutôt que de louper une opportunité.
“C’est une autre culture” pour citer deux célèbres gaulois.
« est-ce que la régulation freine l’innovation ? » Le problème avec l’IA, c’est qu’on ne voit pas bien où l’innovation nous mène. Et quand on ne sait pas où on va, ce n’est pas la peine d’y aller vite…
Du coup, tu ne vois pas l’intérêt de la recherche fondamentale.
Seule la recherche appliquée trouve grâce à tes yeux ?
Tu n’as toujours pas répondu à ma question.
la cryptoanalyse (affaire Serge Humpich), les services en ligne (affaire wizzgo), les systèmes distribués (bridage du P2P), la SVOD (chronologie des media), le stockage des données dans le cloud (affaire safe-harbor), …
Bref, plein de petits trucs dont la France/EU a freiné l’adoption alors qu’aujourd’hui se sont des fondamentaux du web qu’on utilise tous les jours.
Sur les 2 premières affaires, ce ne sont pas des autorités administratives qui ont mis des bâtons dans les roues mais des intérêts privés.
Sur les autres, je t’accorde que cela concerne des autorités administratives.
Ouaip: c’est comme pour l’écologie, l’interdiction du boeuf aux hormones, des certains pesticides , ou de tout un autre panel de contraintes pour limiter la pollution, c’est vraiment mettre le baton dans les roues pour l’innovation agricole ou autre…
Sauf qu’en Asie ils sont en train d’essayer de réparer les dégâts (mais c’est trop tard).
Sauf qu’aux US, ils sont en train de se rendre compte que les impacts sur la santé et l’environnement coutent plus cher que les gains de productivité.
Bref, tu dis avoir été dans le futur, de mon côté j’attends de voir avec amusement le bourbier où le développement sans règle de pseudos IA va nous amener (pas sur que les sommes mises de côté pour le dammage control puissent suffire).
Comme je l’ai dit après, je ne parle pas de l’aspect moral mais simplement de l’avantage (ou désavantage) compétitif à court terme.
La probabilité que le prochain géant mondial de l’IA soit une PME française est assez basse.
(rappel: OpenAI, entreprise US, 375 employés)
google: “Generative AI Market forecast”
il est clair que ça devient chaud. Vu qu’entrainer une IA prend beaucoup de temps il est tentant de la laisser décider de qu’elle sources elle va s’approvisionner (et pas très difficile, il suffit de lancer une requête google et de suivre les liens par exemple), donc tôt ou tard sans contrôle.
Et sur le sujet IA vs dérèglement climatique ou Abus des travailleurs pauvres de pays en voie de développement ?
Ok … ce n’est pas le sujet …