Dans le principe de précaution, on retrouve des notions éthiques, la recherche pouvant avoir des « conséquences très importantes » sur nos vies, voire devenir « terrifiante car comportant des dangers d’une police de la pensée ». Le CNRS donne quelques exemples, avec de bonnes idées… et de moins bonnes.

Le long rapport du Comité d’éthique du CNRS (COMETS) sur le principe de précaution se penche sur un sujet ô combien d’actualité, et parfaitement dans ses cordes : « les limites éthiques aux pratiques de la recherche », notamment en lien avec l’utilisation de l’intelligence artificielle.

La frontière est parfois mince… d’autant que l’éthique se mélange avec le thème du précédent article : les infox. Un exemple récent avec les laboratoires ultra-sécurisés dits P4 : « les risques de contamination des travailleurs et de propagation dans la collectivité sont rendus aussi faibles que possible »… mais « sans qu’on puisse affirmer qu’ils soient totalement nuls », reconnait le rapport. Une manière de rappeler que le risque zéro n’existe pas.

Dans l’actualité, la pandémie de Covid-19 a réuni tous les ingrédients – éthique, recherche, principe de précaution et fake news – avec l’Institut de virologie de Wuhan (classé P4), qui a pour rappel été développé avec la France, avant de se retirer du projet. Jusque-là rien d’exceptionnel, c’est factuel.

Mais, suivant la manière de présenter les choses, on peut ajouter que c’est de cette région qu’est parti le virus SARS-CoV-2 en faisant plus ou moins insidieusement le lien entre les deux.

L’avis de COMETS explique que si le laboratoire a bien été mis en cause par certains dans l'émergence de la pandémie, il a finalement été « disculpé » par l'Organisation mondiale de la Santé (OMS). Une porte-parole a en effet affirmé que « toutes les preuves disponibles suggèrent que le virus a une origine animale et qu'il n'est pas le résultat d'une construction ou d'une manipulation, dans un laboratoire ou ailleurs ».

Depuis, c’est un peu le jeu du chat et de la souris entre les rumeurs d’un côté et les démentis de l’autre. Derniers faits en date, Joe Biden qui demande aux services de renseignements de « redoubler d'efforts » pour expliquer les origines de la Covid-19 et la directrice d'un des laboratoires de Wuhan qui se demande dans le New York Times « comment diable […] apporter des preuves de quelque chose dont il n'y a aucune preuve ? ».

L’OMS n’a pour le moment pas changé d’avis.

• « Science, risques et principe de précaution » : l’analyse du Comité d’éthique du CNRS
• Principe de précaution, infox : la difficulté de « prouver que des risques supposés n’existent pas »
• La science aux limites de l‘éthique, Zuckerberg et Musk en prennent pour leur grade

Quand la science arrive aux limites de l‘éthique

Si dans le cas des laboratoires P4 on se doute bien qu’un virus qui s’échappe peut engendrer une catastrophe sanitaire, d’autres fois il est tout simplement impossible de prévoir toutes les conséquences d’une découverte, aussi bien positives que négatives. C’est le cas des ciseaux génétiques CRISPR/cas9 – des travaux de recherche récompensés par le prix Nobel de chimie en 2020.

Cette technique « a des effets imprévisibles et implique un risque d’affecter plusieurs fonctions en altérant un gène particulier ». La Chine s’est rapidement fait remarquer – dès 2018 – avec « la naissance de bébés-jumelles à l’ADN modifié selon les méthodes CRISP, ce qui a provoqué une mobilisation internationale de protestation contre cette violation de l’éthique », explique le rapport du CNRS. Autre exemple, « les ciseaux génétiques sont utilisés pour le forçage génétique ("gene drive"), qui permet de modifier n’importe quel être vivant se reproduisant de manière sexuée de façon à ce que cette modification génétique se transmette à la plupart de sa descendance ».

Ces techniques peuvent entrainer des modifications sur tout un pan de population en quelques générations seulement, mais aussi « modifier des populations d’insectes vecteurs de maladies afin d’en diminuer la capacité vectorielle ou de les éradiquer ». Le problème de fond étant que « bien des recherches en génétique ont des conséquences difficiles à apprécier », ce qui soulève des questions d’éthique bien évidemment.

Les chercheurs/scientifiques ne sont pas les seuls visés :

« Des personnalités politiques peuvent faire prévaloir des priorités liées à des critères électoraux ou des stratégies de prestige. L’évaluation de la balance bénéfices-risques diffère souvent selon les acteurs. En outre des intérêts économiques puissants peuvent intervenir dans les choix des recherches à risques, à l’échelle nationale et le plus souvent internationale. »

Éthique, argent et pouvoir : un trio pas toujours facile à maitriser. 

Principe de précaution et intelligence artificielle

Dans le domaine (de la limitation) des libertés individuelles, on retrouve évidemment l’IA. Elle fait beaucoup parler d'elle pour la surveillance au sens large du terme, mais aussi à cause « des applications comportant des risques encore peu explorés » : « Nous pressentons que les développements des recherches dans ce domaine auront des conséquences très importantes tant pour nos vies personnelles que publiques », explique le Comité.

On en voit déjà un exemple arriver avec l’intelligence artificielle couplée avec de la vidéosurveillance et de la reconnaissance faciale. Il y a certes des points positifs, avec l’identification forte, des aides lors d‘enquêtes après un attentat terroriste, etc. Néanmoins, « les abus potentiels sont nombreux », affirme sans détour le Comité.

Et ce n’est pas la CNIL qui dira le contraire :

« On peut craindre que l’utilisation massive de ces technologies, pour repérer les faits et gestes de chacun, ne réduise les libertés individuelles d’aller et venir ou de se réunir. Par exemple, si l’on est capable de vous reconnaître dans la rue, on saura avec qui vous vous êtes promené et avez échangé… »

D’autres dérives sont également mises en avant : détection de l’orientation sexuelle, ethnie d’un individu (comme le fait la Chine sur les Ouïghours), « esprits délinquants » chez les plus jeunes, etc.

Bref, « on doit craindre des usages irraisonnés de ces technologies d’où découleraient des risques pour la vie privée contre lesquels il convient d’ores et déjà de se prémunir avec vigueur ».

L’avis n’apporte pas de solution, il se contente de soulever le problème.

Sciences neurocognitives : vers des conséquences « terrifiantes » ?

Passons maintenant aux technologies neurocognitives. L’avis se félicite de certaines applications potentielles comme les interfaces cerveau-ordinateurs qui pourraient aider « à la réhabilitation après des accidents vasculaires-cérébraux et d’autres traumatismes cérébraux, ou remédier à des handicaps, voire permettre à des "emmurés vivants" de communiquer avec le reste du monde ».

Il en est de même pour la « stimulation électrique profonde à l’aide d’implants neuronaux permet[tant] de soigner les symptômes de certaines formes de la maladie de Parkinson ». L’avis est cependant très critique contre d’autres cas, avec deux exemples en tête : 

« En revanche, des hommes d’affaires comme Marc Zuckerberg ou Elon Musk (avec la société Neuralink qu’il a montée avec cette finalité) proposent d’employer les technologies neurocognitives en vue d’augmenter les capacités cognitives humaines et, surtout, de faire intrusion dans notre intériorité, avec des dispositifs électroniques censés accéder directement à nos pensées.

Si cela advenait, les conséquences seraient terrifiantes car comportant des dangers d’une police de la pensée et de diverses formes de coercition. Il apparaît donc que des projets de cet ordre, même s'ils ont très peu de chance d'aboutir, de même que ceux qui conduiraient au transhumanisme, mériteraient d'être interrogés à l'aune du principe de précaution ».

6G : risques, consommation et principe de précaution

Passant du coq-à-l’âne, l’avis ajoute que « certaines technologies comme la 6G pourraient, à terme, avoir des effets néfastes pour l’équilibre de la planète, compte tenu de la consommation énergétique qu’elles induiraient. Là encore les risques mériteraient d’être interrogés et le principe de précaution pourrait être invoqué ».

Des questions que certains se posent sur la 5G, même s'il ne faut pas confondre une technologie et l’usage qu’on en fait : si la 5G permet de faire des économies d’énergie, c'est l'évolution de la quantité de données exploitées au quotidien qui guidera les niveaux de consommation... qui auraient pu être pire en 4G.

Les derniers mois poussent ces questions dès maintenant sur la table pour la 6G, alors que sa conception commence à peine. De tels standards mettent une dizaine d'années à se mettre en place. Plusieurs constructeurs sont déjà sur le coup, Orange ayant déjà indiqué chercher à réduire son empreinte énergétique.

• Hexa-X : Nokia et Ericsson prennent la tête de la recherche européenne sur la 6G
• Samsung pense déjà à la 6G et ses usages : ondes térahertz, hologrammes et réalité étendue