Bilel Benbouzid : « À travers la technique, les ingénieurs rêvent de transformer la société de manière neutre »
La neutralité, c'est politique ?
Une semaine sur deux, entre chaque épisode du podcast Algorithmique, les abonnés de Next peuvent écouter en intégralité l’un des entretiens qui a servi à sa fabrication ou lire sa retranscription.
Sociologue au Laboratoire interdisciplinaire Sciences Innovations Sociétés et maître de conférence à l'université Gustave Eiffel, Bilel Benbouzid est co-auteur d'une cartographie de la régulation de l'intelligence artificielle. Il a animé un séminaire intitulé « À la recherche du politique de l'intelligence artificielle » à Sciences Po Lyon.
Dans cet entretien enregistré le 2 juillet 2024, entre les deux tours des élections législatives, pour l'épisode 5 d'Algorithmique, il détaille les enjeux les différentes arènes des débats politiques autour de l'intelligence artificielle, la manière dont elles s'allient et s'opposent selon les enjeux, et leurs effets concrets, notamment dans un texte comme le règlement sur l'intelligence artificielle.
Commentaires (18)
Modifié le 27/11/2024 à 18h59
Dissocier la technologie de l'humanité à laquelle elle est censée être assujettie, en tant que simple outil, et qu'elle doit servir, car les problèmes à adresser voire résoudre sont humains, c'est la première et fondamentale erreur qui va créer de la violence.
La machine est fatale, car elle réduit les problèmes à des cases.
Les mêmes qui vont refuser de s'intéresser au commun politique et le moquer, les mêmes qui vont refuser l'action syndicale et la moquer.
Tout en étant les premiers à chouiner sans jamais se bouger.
Devinez quoi ?
De leur refus de leurs obligations citoyennes, ils arrivent derrière quand même à créer une pseudo-nouvelle idéologie, tout en restant servile vis-à-vis de celle dont ils servent (consciemment ou non) les intérêts.
Ils me font honte.
J'appelle de tous mes vœux que ces robots déshumanisés (consciemment ou non) cherchant à déshumaniser (consciemment ou non) les problèmes pour les traiter de manière inhumaine (consciemment ou non) (re ?) prennent conscience qu'il faudrait qu'ils reviennent vivre dans un monde humain.
Heureusement que les salariés du secondaire permettent aux cortèges de manifestations ou aux cellules syndicales d'exister, par leur énergie, leur temps, et leur motivation parfois dépensée sans compter.
Merci à eux.
Le 27/11/2024 à 20h44
Le 28/11/2024 à 08h26
Modifié le 28/11/2024 à 17h58
Pour moi si ça s'est imposé dans la plupart des pays les plus riches c'est que ça permet de maximiser le potentiel des humains d'une société, tous les cerveaux produisent, l'assentiment est plus grand à fonctionner collectivement, moins de conflits, meilleure santé générale via un relatif partage... Et en fait ce sont les pays qui n'ont pas développé ces concepts qui se sont sabotés via leurs préjugés ou leur morale inférieure et sont restés pauvres.
Le pb de vouloir inclure ça dans l'IA c'est que l'IA n'a aucun besoin que les cerveaux humains produisent le plus possible, aucune plus value à ce que les humains consentent ou fonctionnent collectivement, à la la limite l'IA sait/saura rapidement mieux forger du consentement humain en trompant nos sens à l'échelle individuelle personnalisée que n'importe quelles valeurs morales/légales humaines dans une société libre et consciente d'elle même. De la même manière que, au moins temporairement, le fanatisme patriotique peut remplacer les droits humains de manière efficace pour faire prospérer une société.
Si je comprend bien ce qu'il en dit, le vide de fiction politique autour des droits humains dans l'IA et qui met le camp des "anti neutres" (des militant-e-s concrètement j'ai l'impression) est juste logique. L'IA est/sera utilisée pour optimiser la société malgré les humains, ou en dépit d'eux. Donc les droits fondamentaux, les sentiments de justice, d'équité etc. ne peuvent en être car ils sont une méthode du passé pour optimiser une société.
La seule chose qui pourrait contrer l'IA déshumanisée et manipulatrice qu'on pressent venir serait de réussir à coder des affects pro humains dedans, pas de vouloir la réguler légalement. Et compter sur ces affects éventuellement pour qu'une fois le point de singularité atteint, on ne soit pas traités comme la viande irrationnelle qu'on est par une intelligence qui nous dépasse en tous points.
Il faut qu'on inclue de l'amour parental dans les moteurs d'IA !
Qui veut le prix nobel de la paix peut commencer à plancher sur le code en C de l'ocytocine.
C'est peut être la seule régulation légale qu'on peut envisager raisonnablement.
Modifié le 02/12/2024 à 12h26
La première, c'est le second paragraphe sur la démocratie. C'est bien méconnaître l'Histoire, ne serait-ce que celle de la France, pour écrire que la démocratie s'est imposée. Quand on voit les revirements de régimes depuis la révolution de 1789 et la montée de l'extrême droite en Europe, effectivement, la démocratie ne va pas de soit (moins de la moitié de la population mondiale vit dans une démocratie complète ou imparfaite), il faut se battre pour qu'elle se maintienne.
Je passe sur la qualificatif "inférieure" concernant la morale des pays "restés pauvres".
La seconde est de considérer le camp de l'anti-neutralité comme composé de militants/es. Ce qui laisse entendre qu'il n'y a pas de militant/e dans celui de la neutralité.
Cela me fait penser à ceux qui disent qu'ils ne sont ni de gauche, ni de droite. En général, ils sont de droite, ou pour le moins surtout pas de gauche.
Modifié le 03/12/2024 à 00h31
Jusqu'au milieu du XXe Siècle, le racisme se voulait être une justification scientifique de la colonisation et de l'esclavage. On sait aujourd'hui que le racisme n'a rien de scientifique et qu'il s'agit d'une idéologie. Dès qu'un discours, qui se veut démonstratif ou raisonné, comporte des mots comme « inférieur » « supérieur » ou « faible » « fort » pour qualifier des groupes humains (dans l'idée de les hiérarchiser), il s'agit de la même idéologie nationaliste, suprémaciste ou raciste qui veut légitimer la domination des uns par les autres ou légitimer la loi du plus fort qui serait l'unique manière d'imposer l'ordre et d'instituer l'excellence (une utopie comme toutes les idéologies en proposent).
Modifié le 08/01/2025 à 10h48
Dans le cadre de conflits/comparaisons entre états nations modernes aux systèmes différents on peut aisément déterminer quels systèmes sont supérieurs aux autres avec les indicateurs socio économiques produits par les instances internationales ou les associations s'intéressant à des sujets précis (liberté de la presse, des minorités sexuelles, pouvoir d'achat, niveau d'éducation, espérance de vie en bonne santé etc.) Et ça ne présume pas de la qualité individuelle des gens qui y vivent (ou très à la marge, l'homophobie hors lois l'instituant étant la résultante de morales criminelles individuelles par ex.).
Bref, un suédois n'a rien de supérieur à un Nigerian en tant qu'humain mais on peut objectivement définir le système politique, moral et social de la suède comme considérablement supérieur à celui du Nigéria en reprenant tous les indicateurs sus cités. Sachant que bien entendu, et à la différence de ce que sous entend le racisme, rien n'est figé dans le temps. Et on a d'ailleurs vu ces dernières décennies des rattrapages de développement spectaculaires. Et le Nigeria, que je prends comme exemple, a la capacité d'un tel rattrapage également.
Le 08/01/2025 à 11h23
Le 02/12/2024 à 13h18
Source: mes vieux cours de 4e au collège
Modifié le 08/01/2025 à 10h35
Et la décolonisation a été directement le fait de la formation intellectuelle et politique des colonisés dans les pays occidentaux qui a donné un nouveau cadre politique et intellectuel à ces populations. C'est le cas de la guerre du rift, la matrice qui a donné la preuve à tous les peuples colonisés qu'ils pouvaient mettre en échec les occidentaux en appliquant les concepts stratégiques enseignés dans les académies militaires espagnoles et en se comportant comme un peuple et pas une myriade de tribus.
C'est le cas des "communistes" sud est asiatiques qui se sont formés politiquement en France dans les bassins ouvriers en tant que main d’œuvre immigrée et ont totalement restructuré (y compris avec la plus grande brutalité, l'antiracisme ne faisant pas alors parti des concepts d'extrême gauche en France) l'organisation sociale de la zone indochinoise/chinoise qui n'a aujourd'hui plus rien à voir politiquement avec ce qu'elle était quand les occidentaux y ont pris pied.
La colonisation et l'esclavage sont donc également une validation d'une supériorité de l'organisation occidentale en état nations qui a ensuite été copiée/intégrée par la quasi totalité du monde, y compris pour résister tout à fait légitimement à l'exploitation occidentale.
Après on est d'accord que la capacité d'un système à écraser les autres systèmes concurrents n'en fait pas un bon système (moralement) pour autant. Reste qu'on peut parler de supériorité pratique sans trop se tromper avec le recul de plusieurs siècles qu'on a sur ces questions.
Modifié le 08/01/2025 à 11h11
Le 08/01/2025 à 12h45
Je ne suis pas toujours d'accord avec @yvan mais j'apprécie toujours ses commentaires réfléchis et argumentés.
Il s'appuie d'ailleurs sur l'histoire pour illustrer ses propos.
Modifié le 08/01/2025 à 13h33
Ce que fait @yvan , c'est faire la démonstration que son opinion est la bonne, aucun fait historique n'est développé dans ses commentaires précédents. Désolé.
Modifié le 09/01/2025 à 09h56
Je donne des illustrations de ce que j'avance. Je suis preneur de contre exemples ou de contradictions, pas de leçons de morale.
L'apanage de ceux qui ne réfléchissent pas par eux même généralement et ont juste envie d'entendre qu'ils sont dans le camp du bien.
Modifié le 09/01/2025 à 13h38
Le 09/01/2025 à 13h49
Ca ne m'arrange pas spécialement n'étant pas concerné personnellement par ces sujets et les démarches historiques sont globalement basées sur des preuves et constituent donc une science (molle).
Ce que je dis c'est que sans contre exemple (qui arrangerait quelqu'un pensant différemment
Modifié le 09/01/2025 à 18h04
edit: l'émoji clown, c'est pour me faire plaisir, c'est gentil. Merci à vous. Tiens, je m'en mets un deuxième (condescendance oblige, avec mon bac en poche).
Modifié le 09/01/2025 à 18h18
En quelques mots, hein. Que ce soit synthétique ou très sommaire. Ca m'intéresse moyennement mais vous avez l'air tellement sûr de vous que je me dis que j'ai rien compris.