Connexion Premium

Pour améliorer l’éthique de leurs systèmes, les constructeurs d’IA se tournent vers les religions

Au nom de la puce, de la donnée et de l'IA

Pour améliorer l’éthique de leurs systèmes, les constructeurs d’IA se tournent vers les religions

Flock

Les dirigeants d’OpenAI et Anthropic ont récemment rencontré des chefs de plusieurs ordres religieux pour réfléchir aux manières de construire leurs outils de manière éthique.

Alors que le monde catholique attend la première encyclique du pape Léon XIV, qui devrait notamment se pencher sur le déploiement à grande échelle de l’intelligence artificielle, le monde de l’IA lui-même se tourne vers les diverses autorités religieuses de la planète. Le but ? Trouver de nouvelles pistes et conseils sur la manière de développer leurs technologies de manière éthique, voire morale

Ces derniers jours, le mouvement s’est traduit dans le « Faith-AI Covenant », une réunion organisée à New-York par l’ONG genevoise Interfaith Alliance for Safer Communities. Sur place, des représentants de la Société du temple hindouiste d’Amérique du Nord, de la Communauté internationale baha’ie, de la coalition sikh, de l’archidiocèse grec orthodoxe d’Amérique du Nord ou encore de l’Église de Jésus-Christ des saints des derniers jours (mieux connue sous le nom de mormonisme) ont échangé avec des représentants d’OpenAI ou encore d’Anthropic.

Des réunions à travers la planète

Cette première réunion est vouée à être reproduite ailleurs sur la planète, à commencer par Pékin, Nairobi et Abu Dhabi. Actrice clé du mouvement, la baronne Joanna Shields (ex-Google et Facebook) indique à AP que le but de l’initiative est d’aboutir à un jeu de « normes et des principes informés par les différents groupes et religieux, des chrétiens aux sikhs en passant par les bouddhistes, auxquels les entreprises se plieraient ».

Avec des milliards de croyants à travers le monde, les chefs religieux ont « une expertise dans le fait d’emmener la population vers la sécurité morale », explique-t-elle, un enjeu à part entière alors que la régulation « ne parvient pas à suivre » le développement de l’IA.

Parmi les principaux acteurs du domaine, Anthropic est celle qui a sollicité le plus ouvertement les chefs religieux. Dès le départ, l’entreprise a été créée sur la promesse de fabriquer des IA dites « alignées » sur l’intérêt humain, en contestation de la manière dont OpenAI se développait. Un positionnement en recherche de valorisation morale qui s’est renforcé fin février, alors que le Pentagone tentait de forcer l’entreprise à enlever les garde-fous qu’elle avait appliqués à ses systèmes, notamment pour obliger une supervision humaine à ses usages militaires.

Écrite avec l’aide de chefs religieux, la « Constitution de Claude » créée par Anthropic présente les « intentions détaillées » de l’entreprise « en termes de valeurs et de comportement » du système d’IA. Elle indique notamment que Claude doit réagir comme une « personne profondément éthique le ferait si elle se trouvait dans la position » du robot.

Ancien chancelier britannique, le directeur du programme « OpenAI for Countries » George Osborne a de son côté rencontré plusieurs dignitaires catholiques au Vatican il y a quelques jours. La rencontre concernait principalement la question du futur du travail.

Une nouvelle diversion ?

Pour certains critiques, dont la chercheuse et fondatrice de l’ONG Humana Intelligence Rumman Chowdhury, ce nouvel intérêt pour les religions n’est qu’une forme de diversion. Auprès d’AP, l’experte y décrit une réponse à la thèse « très naïve » qui a un temps couru dans la Silicon Valley, selon laquelle « il serait possible d’atteindre certains principes éthiques universels » à appliquer à l’IA. Constatant que ce projet est impossible, les constructeurs du domaine se tourneraient désormais vers les cultes pour trouver des manières « de gérer des situations qui ne sont ni toutes noires, ni toutes blanches en termes éthiques ».

Les constructeurs d’IA affirment « nous allons construire toutes ces technologies » et promettent de se soucier de la manière de le faire bien, enchérit le directeur de recherche du Distributed AI Research Institute Dylan Baker. Ce faisant, ils empêchent de s’interroger sur la mesure dans laquelle la société veut construire des systèmes d’IA. La critique fait écho à d’autres, formulées au fil des ans, qui voient dans la course à l’IA une fuite en avant ne se souciant que trop peu des retombées économiques, environnementales et sociales déjà présentes du domaine.

Pour autant, de plus en plus de religions travaillent à faire émerger des positionnements sur le développement de l’IA. Ainsi de l’Église catholique, donc, dont l’encyclique du pape reste attendue, et de l’Église mormone, qui a déclaré que si « l’IA ne peut pas remplacer le don de l’inspiration divine », elle peut être un outil « utile pour renforcer l’apprentissage et l’enseignement ».

C’est aussi le cas de certains courants bouddhistes. En Corée du Sud, il y a quelques jours, un robot nommé Gabi (un prénom qui fait référence à la clémence) a ainsi été intégré à une cérémonie d’initiation, lors de laquelle les croyants affirment leur dévotion au Bouddha et à ses enseignements. En début d’année, le président de l’Ordre Jogye du bouddhisme coréen avait affirmé vouloir incorporer l’IA à la tradition bouddhiste – une volonté dont d’autres leaders bouddhique se font l’écho.

Commentaires (26)

votre avatar
Euh ... Sachant que les différentes religions connaissent des dérives sectaires ou pire ...
votre avatar
Déjà que les courants au sein des principales religions (en terme d'adeptes) ne sont pas foutus de se mettre d'accord (vive les guéguerres de religion), je ne vois pas de raison que les "lois" de l'IA soient universelles.
Ils feraient mieux de partir des lois de la robotique, elles sont un peu plus agnostiques.

Et les athées ne sont pas représentés, faudrait pas non plus que les prêcheurs perdent leur pouvoir sur les faibles d'esprit.
votre avatar
Sans rentrer sur le débat du bilan sur les religions ...

Je m'interroge aussi sur l'interprétation que pourrait faire un LLM des règles morales et éthiques (je suppose que c'est le sujet).
Les sectes sont un bon exemple d'une scission d'un mouvement (reglieux) par rigorisme ou interprétation avec des conséquences néfastes.
votre avatar
Tu veux parler de Peter Thiel qui a un discours hérétique? Petit extrait d'un article intéressant sur la religion et un adepte de l'IA
L’hérésie américaine : faut-il brûler Peter Thiel ? - Le Grand Continent
Dans son sens philosophique le plus profond, l’hérésie n’est donc pas la négation de la vérité, mais l’isolement d’une vérité partielle, détachée du tissu relationnel de l’ensemble et élevée au rang de principe absolu. C’est l’absolutisation d’un fragment séparé de l’harmonie du tout : une intuition particulière sur la nature humaine ou sur la dynamique sociale qui, privée des contrepoids nécessaires qu’impose la complexité du réel, devient totalisante — et, à terme, tyrannique.
votre avatar
Les religions apportent la paix, c'est bien connu 🤦‍♂️
votre avatar
Qu'est-ce qui pourrait mal se passer ?
:frown:
votre avatar
Même pas un représentant du Pastafarisme ?
Déception je suis :craint:
votre avatar
Oui c'est vrai que l'éthique des religions est un modèle pour les femmes notamment... 🫩
votre avatar
Surtout que s'ils étaient réellement intéressé par l'éthique et la morale, ils auraient déjà pu ne pas virer ceux qui travaillaient dessus ...
votre avatar
AImen ! 🙏
votre avatar
L'informatique avait déjà ses religion : Intel, AMD, Linux, Microsoft... :pastaper:
votre avatar
Les croyances ne sont-elle pas une hallucinations de la simulation IA de notre monde ?
votre avatar
Croire, c'est une partie irrationnelle de l'être humain. Une croyance, c'est le choix de croire.
L'athéisme est le choix de croire qu'il n'y a rien en qui/quoi croire : l'athéisme est donc une religion.

Le plus paradoxal est donc de se croire comme plus rationnel que l'on est et de prétexter que la croyance en l'absence de divinité est plus rationnel que celle opposée.
Les paradoxes sont, pour rappel, dangereux.

Quelques exemples de paradoxes :

  • Se réclamer non-croyant et partir au combat contre des croyances différentes pour défendre la sienne (forme de croisade)

  • Se réclamer non-croyant et embrasser des idéologies (formes de croyance)

votre avatar
L’athéisme n'est pas une religion, il n'y a rien qui relie les non-membres de cette non-communauté.
Aucun représentant connu au même titre que les religions. Aucun texte, aucun principe, aucune restriction. On leur demande jamais leur avis, contrairement aux autres, jusqu’à avoir un front multi-confessionnelle.

Ne pas croire en l’existence de l’invérifiable est une croyance tout aussi invérifiable.
votre avatar
Bon, on va juste espérer qu'ils ne prendront pas l'Ancien Testament comme référence pour entrainer les choix éthiques des IA.

Je constate également que les leaders religieux, qui s'appuient généralement sur des textes datant de plusieurs siècles à plusieurs millénaires, ne sont pas toujours en accord avec les choix éthiques des populations actuelles, choix qui peuvent d'ailleurs varier d'une culture à l'autre.

Exemple flagrant: plus de 80% de la population belge est favorable à l'euthanasie encadrée. Pourant, l'église catholique belge s'y oppose toujours. Si les pays plus au Nord sont d'accord avec ce choix (l'euthanasie est également légale aux Pays-Bas), les pays du Sud tels que la Grèce s'y opposent totalement.

Vouloir imposer des valeurs universelles m'apparait ainsi impraticable, voire dangereux. Et encore plus si ce sont les valeurs américaines, voire MAGA qui viendraient à être plébiscitées.
votre avatar
Et encore plus si ce sont les valeurs américaines, voire MAGA qui viendraient à être plébiscitées.
Genre, c'est pas le but par hasard ?
votre avatar
Plus le soleil tape fort plus le cerveau prend des coups de chaud ?
votre avatar
L'ancien testament parle de la libération de toutes dettes tous les 50 ans pour tous, octroie des droits égaux à tous les étrangers sous respect des règles religieuses, permettait aux pauvres de vivre dignement avec le glanage des récoltes que les propriétaires étaient obligés d'autoriser, établissait de fait un "congé menstruel" pendant ladite période, protégeait des maladies par des mesures de quarantaines et le lavage des mains, appliquait les lois à tous de la même façon (hello les plus riches non taxés), forçait le respect des parents...
Bref, si tu ne prends en compte que les règles qui te gène, tu loupes beaucoup d'autres choses.
votre avatar
Ce qui est drôle avec les points que tu cites, c'est que les réacs de toutes les sociétés très influencées par le christianisme et qui fantasment un passé idéal selon eux (genre la Fronce millénaire et éternelle) sont radicalement à opposés à ces concepts de solidarité et de tolérance.
votre avatar
Mon point est que c'est un texte ancien, en accord avec les normes sociales du lieu et de l'époque. Dans l'ancien Testament, les femmes sont propriété de leur mari comme du mobilier et cela lapide ou brûle vif à tour de bras.
Est-ce qu'il y a des bonnes choses ? Certainement! Est-ce que c'est une référence à prendre dans son intégralité pour nous sociétés actuelles? Absolument pas!
Et le fait que toi-même, tu fais un tri pour ne reprendre que des points positifs au vu de notre époque appuie mon propos.

PS: ton "congé menstruel" m'a bien fait rire! Dans l'ancien testament, les femmes devenaient une abomination impure pendant leurs règles. Les hommes ne pouvaient plus (littéralement) les toucher et tout objet en contact avec leur postérieur (chaise, lit) devenait impur lui aussi. Elle étaient donc enfermées et devaient dormir à même le sol pendant leur période.
Source : Levitique 15:19-32
votre avatar
Pour le coup, tu te trompes de sens et tu parles d'époque différente. La propriété n'était pas du tout pensée comme aujourd'hui, cela avait un sens bien différent. Il n'y a aucune référence à des mobiliers dans les relation maritales selon le texte.

Je te rejoins quand tu parles qu'il ne faut pas vivre selon le texte de la loi (c'est d'ailleurs pour ça qu'il a été aboli à l'époque de Jésus, d'ailleurs). Je n'ai pas fait de tri, j'ai juste mis en avant des points méconnus.
Après tu connais bien la différence entre la loi et la pratique. Les humains sont mauvais par défaut et doivent constamment revenir à la loi pour bien agir, c'est tout l'intérêt de ce texte. La société juive était dévoyée dès qu'elle oubliait les principes de cette loi : aimer Dieu et son prochain (dont les femmes faisaient parties).

PS: Je suis en désaccord avec toi, aucune abomination dans le texte mais juste une impureté qui signifiait ne pas devoir aller au temple pour faire les rites, ne pas recevoir chez soi, ne pas faire le sexe avec son mari, être peinard quoi. Les hommes pouvaient les toucher mais devaient eux aussi faire les rites de purification ensuite. Bref, tu ne connais visiblement pas les écrits ou les lis de manière biaisée c'est dommage.
votre avatar
Les textes religieux font déjà partie du corpus de textes généralistes pompés, extraits à fins commerciales par les vendeurs de la chose.

Il y a d'autres idéologies, elles aussi basées sur des croyances donc, qui ne sont pourtant pas (à tort ?) classifiées comme religions : technologisme, modernisme, (néo)libéralisme, sans compter l'usage de boites noires comme des oracles, à rebours de ce que l'esprit du libre essaie d'insuffler en chacun envers l'outil informatique depuis quelques générations maintenant.

Est-ce l'occasion de susciter de l'émotion avec des non-sujets racoleurs ?
Est-ce l'occasion pour ceux qui auraient des "arguments" contre les religions de chier dessus, donc de chier sur leurs croyants, car leur opinion est meilleur que la leur ?
votre avatar
Dire que je comparais les discussions autour de l'IA et de ses capacités comme un débat théologique il y a quelques temps.

J'en ai marre d'être toujours en avance sur mon temps. :craint:

Mais bon, avec des demeurés qui croient que c'est Oracle Qui Sait Tout Et Voit Tout, y'a rien d'étonnant que ça finisse dans ce délire.
votre avatar
Ça me rappelle le chapitre 2 (intitulé « La créature céleste ») du film coréen « Doomsday Book » de 2012 (non, pas d’erreur sur l’année, c’était il y a 14 ans déjà !), qui est un petit bijou d’une durée de 30 minutes environ.

Un robot, placé dans un monastère bouddhiste pour un usage d’entretien, sème le doute parmi la communauté des moines en atteignant le nirvana. Avec un final sous forme de leçon… à méditer !?

Mais je doute que cela puisse influencer voire simplement intéresser les fumeux dirigeants des leaders de l’IA.
votre avatar
Je me suis toujours demandé si l'IA à laquelle on confierait le bouton rouge de la sécurité nucléaire auait les reddit des jeux civilization et consorts dans ses données d'apprentissage... Cette news ne me rassure pas :reflechis:
votre avatar
L'avantage avec les religions est que leurs écrits sont sans droits d'auteurs. Si on ajoute des grand classiques libres de droits comme l'art de la guerre, il y a peut-être moyen d'entrainer une IA qui soit adoubée au lieu d'être rejettée. :D