Transhumanisme, altruisme effectif et long-termisme ne seraient-ils que diverses facettes d’une même pièce ? C’est la thèse de l’éthicienne de l’intelligence artificielle Timnit Gebru et du philosophe Emile Torres, qui réunissent ces idées sous l'acronyme TESCREAL et les lient au courant eugéniste.
L’intelligence artificielle générale (AGI) est-elle un réel idéal ? Est-ce un idéal bénéfique pour la majorité ? Faut-il continuer de financer la recherche pour la création d’une telle entité supposée dépasser les capacités humaines quand, dans le même temps, ceux qui y œuvrent alertent sur les dangers d’une AGI « non-alignées » avec les valeurs de l’humanité ?
Lorsqu’on creuse ce paradoxe, on tombe rapidement sur différents courants de pensée qui animent depuis plusieurs années la Silicon Valley. Transhumanisme, altruisme effectif, long-termisme… Le monde technologique baigne dans ces mouvements qui irriguent, en particulier, la recherche en intelligence artificielle la plus en vue.
Si ces mouvements sont débattus depuis longtemps, la critique s'accentue depuis plusieurs mois. Elle est notamment portée par les alertes de l’ingénieure Timnit Gebru et le philosophe Emile Torres, qui alertent sur les liens idéologiques que ces courants entretiennent avec un mouvement plus ancien : l’eugénisme. Dans un article tout juste paru dans la revue First Monday, les deux scientifiques relient les idées au fondement des TESCREAL (un acronyme qui réunit transhumanisme, Extropianisme, singularitarisme, cosmism, Rationalisme, Altruisme Effectif et long-termisme) à celles de ce courant dont les idées ont irrigué les démocraties européennes au tournant du XXe siècle, et qui en a motivé les heures les plus sombres.
« De nombreuses personnes travaillant sur l’intelligence artificielle générale ne sont peut-être pas conscientes de leur proximité avec les points de vue et les communautés TESCREAL », préviennent d’emblée Gebru et Torres.
Les principaux promoteurs des courants TESCREAL « ont été très efficaces en termes de stratégie, explique Émile Torres à Next. Ils ont été super bons pour trouver les meilleures manières d’atteindre leurs buts », en se positionnant dans des universités influentes (comme Oxford, au Royaume-Uni, qui vient tout juste de fermer le Future of Humanity Institute dirigé par le philosophe Nick Bostrom depuis vingt ans), en attirant des financements et en détournant l’attention trop précise des régulateurs.
Résultat, écrit-il avec Timnit Gebru : « Les idéologies TESCREAListes sont le moteur de la course à l’AGI, même si toutes les personnes associées à l'objectif de construction de l'AGI ne souscrivent pas à ces visions du monde. » Contestant la scientificité de la course à une « intelligence » artificielle « générale », les deux universitaires appellent à la promotion de modèles d’intelligence artificielle précisément définis, testables et construits d’une manière qui les rend réellement sécurisables.
Un acronyme pour les rassembler tous
Abonnez-vous pour tout dévorer et ne rien manquer.
Déjà abonné ? Se connecter
Commentaires (19)
#1
#2
(Je dois confesser qu'il y a une vingtaine d'années, j'étais pas mal séduit par le transhumanisme, tout en y voyant bien la limite que c'était un facteur additionnel d'inégalité dans un monde qui en a pourtant déjà tout le tour de la ceinture.)
#3
#4
#5
#5.1
Il y a aussi Bienvenue à Gattaca dans un style différent qui parle du sujet
Après modifier l'être humain pour le rendre plus performant, immortel, avec des super pouvoir psy, moi je suis pour
#6
Historique des modifications :
Posté le 25/04/2024 à 14h30
Le sujet est intéressant mais je lis plus une injonction morale qu'un propos pertinent. Ça n'est pas parce que Musk dit des dingueries que le QI n'est devient faux.
Posté le 25/04/2024 à 15h04
Le sujet est intéressant mais je lis plus une injonction morale qu'un propos pertinent. Ça n'est pas parce que Musk dit des dingueries que le QI n'est devient faux.
#6.1
Une personne avec un QI bas peut tout à faire surprendre dans d'autres domaines que ceux des tests, révélant une autre forme d'intelligence.
Le QI a été conçu pour mettre les gens dans des cases à une époque où nos connaissance en neurosciences et psychologie étaient moindre.
Historique des modifications :
Posté le 25/04/2024 à 15h28
Pourtant n'importe quel psy(chologue/chiatre) sérieux te dire que le QI ne représente rien car l'intelligence, au sens large, est bien difficile à définir. On parle même d'intelligenceS avec un S, car il n'y a aucune forme d'intelligence standard.
Une personne avec un QI bas peut tout à faire surprendre dans d'autres domaines que ceux des tests, révélant une autre forme d'intelligence.
Le QI a été conçu pour mettre les gens dans des cases à une époque où nos connaissance en neurosciences et psychologie étaient moindre.
#6.3
#6.4
"qui réunissent ces idées sous l'acronyme TESCREAL et les lient au courant eugéniste"
C'est toujours une mauvaise idée de vouloir généraliser.
#6.6
La Science-Fiction comporte de multiples sous-genres. Pourtant le genre principal reste bien la SF.
Ici c'est pareil avec l'eugénisme (l'idée principale) et TESCREAL (les multiples sous-branches connus et analysés).
#6.8
et quand j'entends dire "je n'aime pas la SF", c'est une absurdité.
Encore une fois, vouloir regrouper tous les légumes sous le terme LEGUME et les considérer touts comme une seule entité, ce n'est pas bon.
je te cite: "On parle même d'intelligenceS avec un S, car il n'y a aucune forme d'intelligence standard"
Et bien dans cet acronyme, je vois la même chose.
Peut-être ai-je tord, mais il vaut toujours mieux se méfier des simplifications.
#6.2
#6.5
https://fr.wikipedia.org/wiki/Quotient_intellectuel
C'est un indicateur, donc en soit porteur de simplifications discutables et discutées. Dire qu'il n'a aucune base scientifique est juste faux, dire qu'il a été inventé par racisme est faux.
Ça peut en effet être récupéré à des fins racistes, mais dire que le QI existe ne rend pas les thèses racistes valides.
Franck Ramus (neurologue) écrit ceci : https://ramus-meninges.fr/2015/06/11/le-qi-cest-nimporte-quoi-oui-mais-encore-2/
Historique des modifications :
Posté le 25/04/2024 à 17h21
Je sais pas quoi vous répondre, ouvrez une page Wikipedia, c'est loin d'être la pseudo science que vous décrivez.
https://fr.wikipedia.org/wiki/Quotient_intellectuel
C'est un indicateur, donc en soit porteur de simplifications discutables et discutées. Dire qu'il n'a aucune base scientifique est juste faux, dire qu'il a été inventé par racisme est faux.
Ça peut en effet être récupéré à des fins racistes, mais dire que le QI existe ne rend pas les thèses racistes valides.
#6.7
https://en.wikipedia.org/wiki/Intelligence_quotient
https://fr.wikipedia.org/wiki/Quotient_intellectuel
De même, les pages anglophones relatives à la controverse sur les liens entre questions raciales et intelligence sont bien plus fournies que la VF
https://en.wikipedia.org/wiki/Race_and_intelligence
https://fr.wikipedia.org/wiki/Controverse_sur_les_rapports_entre_race_et_intelligence
Ça ne fermera certainement pas le débat, mais je vous signale cet article (ancien) de Sciences Humaines qui résumait bien les enjeux
https://www.scienceshumaines.com/le-qi-est-il-cuit_fr_21822.html
#7
#8
#9
#10