Pour améliorer l’éthique de leurs systèmes, les constructeurs d’IA se tournent vers les religions
Au nom de la puce, de la donnée et de l'IA
Flock
Mathilde Saliou
Le 12 mai à 09h49
Les dirigeants d’OpenAI et Anthropic ont récemment rencontré des chefs de plusieurs ordres religieux pour réfléchir aux manières de construire leurs outils de manière éthique.
Pour améliorer l’éthique de leurs systèmes, les constructeurs d’IA se tournent vers les religions
Au nom de la puce, de la donnée et de l'IA
Flock
Les dirigeants d’OpenAI et Anthropic ont récemment rencontré des chefs de plusieurs ordres religieux pour réfléchir aux manières de construire leurs outils de manière éthique.
IA et algorithmes
IA
5 min
Alors que le monde catholique attend la première encyclique du pape Léon XIV, qui devrait notamment se pencher sur le déploiement à grande échelle de l’intelligence artificielle, le monde de l’IA lui-même se tourne vers les diverses autorités religieuses de la planète. Le but ? Trouver de nouvelles pistes et conseils sur la manière de développer leurs technologies de manière éthique, voire morale
Ces derniers jours, le mouvement s’est traduit dans le « Faith-AI Covenant », une réunion organisée à New-York par l’ONG genevoise Interfaith Alliance for Safer Communities. Sur place, des représentants de la Société du temple hindouiste d’Amérique du Nord, de la Communauté internationale baha’ie, de la coalition sikh, de l’archidiocèse grec orthodoxe d’Amérique du Nord ou encore de l’Église de Jésus-Christ des saints des derniers jours (mieux connue sous le nom de mormonisme) ont échangé avec des représentants d’OpenAI ou encore d’Anthropic.
Des réunions à travers la planète
Cette première réunion est vouée à être reproduite ailleurs sur la planète, à commencer par Pékin, Nairobi et Abu Dhabi. Actrice clé du mouvement, la baronne Joanna Shields (ex-Google et Facebook) indique à AP que le but de l’initiative est d’aboutir à un jeu de « normes et des principes informés par les différents groupes et religieux, des chrétiens aux sikhs en passant par les bouddhistes, auxquels les entreprises se plieraient ».
Avec des milliards de croyants à travers le monde, les chefs religieux ont « une expertise dans le fait d’emmener la population vers la sécurité morale », explique-t-elle, un enjeu à part entière alors que la régulation « ne parvient pas à suivre » le développement de l’IA.
Parmi les principaux acteurs du domaine, Anthropic est celle qui a sollicité le plus ouvertement les chefs religieux. Dès le départ, l’entreprise a été créée sur la promesse de fabriquer des IA dites « alignées » sur l’intérêt humain, en contestation de la manière dont OpenAI se développait. Un positionnement en recherche de valorisation morale qui s’est renforcé fin février, alors que le Pentagone tentait de forcer l’entreprise à enlever les garde-fous qu’elle avait appliqués à ses systèmes, notamment pour obliger une supervision humaine à ses usages militaires.
Écrite avec l’aide de chefs religieux, la « Constitution de Claude » créée par Anthropic présente les « intentions détaillées » de l’entreprise « en termes de valeurs et de comportement » du système d’IA. Elle indique notamment que Claude doit réagir comme une « personne profondément éthique le ferait si elle se trouvait dans la position » du robot.
Ancien chancelier britannique, le directeur du programme « OpenAI for Countries » George Osborne a de son côté rencontré plusieurs dignitaires catholiques au Vatican il y a quelques jours. La rencontre concernait principalement la question du futur du travail.
Une nouvelle diversion ?
Pour certains critiques, dont la chercheuse et fondatrice de l’ONG Humana Intelligence Rumman Chowdhury, ce nouvel intérêt pour les religions n’est qu’une forme de diversion. Auprès d’AP, l’experte y décrit une réponse à la thèse « très naïve » qui a un temps couru dans la Silicon Valley, selon laquelle « il serait possible d’atteindre certains principes éthiques universels » à appliquer à l’IA. Constatant que ce projet est impossible, les constructeurs du domaine se tourneraient désormais vers les cultes pour trouver des manières « de gérer des situations qui ne sont ni toutes noires, ni toutes blanches en termes éthiques ».
Les constructeurs d’IA affirment « nous allons construire toutes ces technologies » et promettent de se soucier de la manière de le faire bien, enchérit le directeur de recherche du Distributed AI Research Institute Dylan Baker. Ce faisant, ils empêchent de s’interroger sur la mesure dans laquelle la société veut construire des systèmes d’IA. La critique fait écho à d’autres, formulées au fil des ans, qui voient dans la course à l’IA une fuite en avant ne se souciant que trop peu des retombées économiques, environnementales et sociales déjà présentes du domaine.
Pour autant, de plus en plus de religions travaillent à faire émerger des positionnements sur le développement de l’IA. Ainsi de l’Église catholique, donc, dont l’encyclique du pape reste attendue, et de l’Église mormone, qui a déclaré que si « l’IA ne peut pas remplacer le don de l’inspiration divine », elle peut être un outil « utile pour renforcer l’apprentissage et l’enseignement ».
C’est aussi le cas de certains courants bouddhistes. En Corée du Sud, il y a quelques jours, un robot nommé Gabi (un prénom qui fait référence à la clémence) a ainsi été intégré à une cérémonie d’initiation, lors de laquelle les croyants affirment leur dévotion au Bouddha et à ses enseignements. En début d’année, le président de l’Ordre Jogye du bouddhisme coréen avait affirmé vouloir incorporer l’IA à la tradition bouddhiste – une volonté dont d’autres leaders bouddhique se font l’écho.
Commentaires (26)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousLe 12 mai à 10h04
Le 12 mai à 10h28
Ils feraient mieux de partir des lois de la robotique, elles sont un peu plus agnostiques.
Et les athées ne sont pas représentés, faudrait pas non plus que les prêcheurs perdent leur pouvoir sur les faibles d'esprit.
Le 12 mai à 12h09
Je m'interroge aussi sur l'interprétation que pourrait faire un LLM des règles morales et éthiques (je suppose que c'est le sujet).
Les sectes sont un bon exemple d'une scission d'un mouvement (reglieux) par rigorisme ou interprétation avec des conséquences néfastes.
Le 13 mai à 09h39
L’hérésie américaine : faut-il brûler Peter Thiel ? - Le Grand Continent
Le 12 mai à 10h41
Le 12 mai à 13h39
Le 12 mai à 10h54
Déception je suis
Le 12 mai à 11h24
Le 12 mai à 18h38
Le 12 mai à 11h44
Le 12 mai à 12h24
Le 12 mai à 12h41
Le 19 mai à 14h27
L'athéisme est le choix de croire qu'il n'y a rien en qui/quoi croire : l'athéisme est donc une religion.
Le plus paradoxal est donc de se croire comme plus rationnel que l'on est et de prétexter que la croyance en l'absence de divinité est plus rationnel que celle opposée.
Les paradoxes sont, pour rappel, dangereux.
Quelques exemples de paradoxes :
Le 19 mai à 19h53
Aucun représentant connu au même titre que les religions. Aucun texte, aucun principe, aucune restriction. On leur demande jamais leur avis, contrairement aux autres, jusqu’à avoir un front multi-confessionnelle.
Ne pas croire en l’existence de l’invérifiable est une croyance tout aussi invérifiable.
Le 12 mai à 13h57
Je constate également que les leaders religieux, qui s'appuient généralement sur des textes datant de plusieurs siècles à plusieurs millénaires, ne sont pas toujours en accord avec les choix éthiques des populations actuelles, choix qui peuvent d'ailleurs varier d'une culture à l'autre.
Exemple flagrant: plus de 80% de la population belge est favorable à l'euthanasie encadrée. Pourant, l'église catholique belge s'y oppose toujours. Si les pays plus au Nord sont d'accord avec ce choix (l'euthanasie est également légale aux Pays-Bas), les pays du Sud tels que la Grèce s'y opposent totalement.
Vouloir imposer des valeurs universelles m'apparait ainsi impraticable, voire dangereux. Et encore plus si ce sont les valeurs américaines, voire MAGA qui viendraient à être plébiscitées.
Le 12 mai à 14h13
Le 12 mai à 20h51
Le 13 mai à 11h12
Bref, si tu ne prends en compte que les règles qui te gène, tu loupes beaucoup d'autres choses.
Le 13 mai à 15h10
Modifié le 14 mai à 07h19
Est-ce qu'il y a des bonnes choses ? Certainement! Est-ce que c'est une référence à prendre dans son intégralité pour nous sociétés actuelles? Absolument pas!
Et le fait que toi-même, tu fais un tri pour ne reprendre que des points positifs au vu de notre époque appuie mon propos.
PS: ton "congé menstruel" m'a bien fait rire! Dans l'ancien testament, les femmes devenaient une abomination impure pendant leurs règles. Les hommes ne pouvaient plus (littéralement) les toucher et tout objet en contact avec leur postérieur (chaise, lit) devenait impur lui aussi. Elle étaient donc enfermées et devaient dormir à même le sol pendant leur période.
Source : Levitique 15:19-32
Le 18 mai à 10h40
Je te rejoins quand tu parles qu'il ne faut pas vivre selon le texte de la loi (c'est d'ailleurs pour ça qu'il a été aboli à l'époque de Jésus, d'ailleurs). Je n'ai pas fait de tri, j'ai juste mis en avant des points méconnus.
Après tu connais bien la différence entre la loi et la pratique. Les humains sont mauvais par défaut et doivent constamment revenir à la loi pour bien agir, c'est tout l'intérêt de ce texte. La société juive était dévoyée dès qu'elle oubliait les principes de cette loi : aimer Dieu et son prochain (dont les femmes faisaient parties).
PS: Je suis en désaccord avec toi, aucune abomination dans le texte mais juste une impureté qui signifiait ne pas devoir aller au temple pour faire les rites, ne pas recevoir chez soi, ne pas faire le sexe avec son mari, être peinard quoi. Les hommes pouvaient les toucher mais devaient eux aussi faire les rites de purification ensuite. Bref, tu ne connais visiblement pas les écrits ou les lis de manière biaisée c'est dommage.
Modifié le 12 mai à 15h12
Il y a d'autres idéologies, elles aussi basées sur des croyances donc, qui ne sont pourtant pas (à tort ?) classifiées comme religions : technologisme, modernisme, (néo)libéralisme, sans compter l'usage de boites noires comme des oracles, à rebours de ce que l'esprit du libre essaie d'insuffler en chacun envers l'outil informatique depuis quelques générations maintenant.
Est-ce l'occasion de susciter de l'émotion avec des non-sujets racoleurs ?
Est-ce l'occasion pour ceux qui auraient des "arguments" contre les religions de chier dessus, donc de chier sur leurs croyants, car leur opinion est meilleur que la leur ?
Modifié le 12 mai à 18h00
J'en ai marre d'être toujours en avance sur mon temps.
Mais bon, avec des demeurés qui croient que c'est Oracle Qui Sait Tout Et Voit Tout, y'a rien d'étonnant que ça finisse dans ce délire.
Le 13 mai à 11h46
Un robot, placé dans un monastère bouddhiste pour un usage d’entretien, sème le doute parmi la communauté des moines en atteignant le nirvana. Avec un final sous forme de leçon… à méditer !?
Mais je doute que cela puisse influencer voire simplement intéresser les fumeux dirigeants des leaders de l’IA.
Le 16 mai à 00h15
Modifié le 16 mai à 16h02
Signaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?