S3 1 To
S3 1 To
Connexion Premium
Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société
Déontologie Règles de modération Mentions légales et contact
Qui sommes nous ? Contact rédaction Contact site Forum
Flux RSS GitHub Discord

Jean-Gabriel Ganascia : avec l’IA, “l’espace public est en train de disparaître”

Lucidité, refus, ironie, obstination

Jean-Gabriel Ganascia : avec l’IA, “l’espace public est en train de disparaître”

Le 25 septembre, Next a lancé son premier podcast, Algorithmique, dédié aux enjeux de l’intelligence artificielle. Une semaine sur deux, entre chaque épisode, les abonnés pourront écouter en intégralité l’un des entretiens qui a servi à sa fabrication, ou lire sa retranscription. 



Le 02 octobre 2024 à 16h16

Professeur à la Faculté des sciences de Sorbonne Université et chercheur au Lip6, où il travaille sur l'intelligence artificielle depuis de nombreuses années, Jean-Gabriel Ganascia est aussi philosophe, et auteur de plusieurs ouvrages de vulgarisation, parmi lesquels Le mythe de la singularité : faut-il craindre l’intelligence artificielle ? (Seuil, 2017), Servitudes virtuelles (Seuil, 2022) et L’IA expliquée aux humains (Seuil, 2024).

Dans cet entretien, il détaille les notions d'intelligence, de conscience (artificielle ou non), de biais, évoque l'histoire de l'IA, la fabrication du règlement européen sur l'intelligence artificielle, et se penche sur les risques que pose le domaine de l'IA.

Il reste 98% de l'article à découvrir.

Déjà abonné ? Se connecter

Cadenas en colère - Contenu premium

Soutenez un journalisme indépendant,
libre de ton, sans pub et sans reproche.

Accédez en illimité aux articles

Profitez d'un média expert et unique

Intégrez la communauté et prenez part aux débats

Partagez des articles premium à vos contacts

Commentaires (13)

votre avatar
Article très intéressant, fouillé et détaillé.
En plus j'ai tout compris donc merci ! :smack:
votre avatar
Merci pour la transcription. J'ai écouté ce premier Podcast, mais comme Sébastien (je suis encore plus vieux que lui :phiphi:), j'ai du mal avec l'oral. J'ai du mal à capter aussi bien qu'à l'écrit ce qui est dit.
Je pense que j'attendrai l'écrit la prochaine fois, même si ça fait long à lire. :D (Je n'ai pas encore lu la transcription entièrement)
votre avatar
Pareil pour moi ! Je découvre cette interview et c'est passionnant. Je ne l'aurais par contre pas écoutée !
votre avatar
Ce qu’on oublie souvent, d’ailleurs, c'est que le web est le couplage des réseaux de télécommunications (qui ne sont pas de l'intelligence artificielle) avec un modèle de mémoire. Or, la mémoire, c’est une fonction psychique.
Ce modèle de mémoire, qui s’appelle l’hypertexte, a été programmé avec des techniques d'intelligence artificielle et d'une certaine façon, c'est de l'intelligence sociale. Le protocole du web http, hypertext transfer Protocol, ou HTML, le langage d'écriture des pages web, fait aussi référence à l'hypertexte. Donc vous voyez, on fait tous de l'intelligence artificielle aujourd'hui, un peu comme Monsieur Jourdain faisait de la prose sans le savoir.
Je suis assez surpris de cette affirmation, en particulier la partie que j'ai mise en gras. J'avais aussi tiqué en l'entendant. Quelqu'un aurait une source pour cette affirmation ?

En tout cas, en lisant l'article en anglais sur l'hypertext, ça m'a permis de remarquer qu'Hypercard d'Apple date de 1987 et le Web seulement de 1989. Apple était pas mal à l'époque sur les innovations techniques.
votre avatar
Sans source détaillée, je crois comprendre qu'il fait référence à la fonction que voulait implémenter Berners-lee au CERN ; un système de gestion documentaire. Une façon d'organiser la connaissance (et donc je suppose que le lien avec la mémoire est là).

L'aboutissement de ça, ça me parait pas être le web dans son ensemble comme on le connait aujourd'hui mais plutôt les Wikis. OneNote, et autre systèmes proposés pour organiser ce qu'on sait et pouvoir le retrouver plus facilement.

EDIT: pas d'infos sur le "programmé avec de l'intelligence artificielle" qui me parait pas à sa place ici.
votre avatar
J'ai bien compris la référence.
Par contre, j'ai du mal à dire que c'est de l'intelligence artificielle.
Je trouve qu'il fait des raccourcis en particulier parce que autant dans l'organisation des liens web qu'hypertextes, c'est l'humain et pas la machine qui crée et organise les liens.
Oui, la fonction mémoire d'un être vivant fait partie de l'intelligence, mais si elle est organisée par un humain pour être restituée par un programme informatique (logiciel traitant de l'hypertexte (comme hypercard) ou un navigateur web) pour moi, cette partie de l'intelligence n'est pas artificielle, seul le stockage l'est et on ne définit pas un système de fichiers ou une base de données comme étant de l'intelligence artificielle.
votre avatar
Peut être car l'hypertexte a été conçu comme une sorte de mémoire artificielle, on déporte des informations dans un document et les liens nous permettent de relier les éléments.

Ou alors que chaque élément hypertexte est considéré comme un neurone.
Je sais pas trop.

Ou alors ça se base sur les travaux de Ted Nelson avec son Projet Xanadu et ses bouquins genre Literary Machines
votre avatar
Merci pour ces podcasts qualitatifs. J-G Ganascia s'exprime simplement, il me fait penser à Julien Bobroff.
votre avatar
Hors-sujet :
Ce matin un rafraichissement F5 sur la page d'accueil de next next.ink Next m'a encore forcé l'odieux et combien inutile next.ink Next?begin=2024-09-25&end=2024-10-02
Quand comptez vous dégager cette "fonctionnalité" qui il me semble n'est utile à personne ?
Ça commence à me saouler, j'ai beau signaler à répétition, ça revient régulièrement.
Par avance merci.
votre avatar
J'ai jamais eu ce problème avec Firefox. Comment tu arrives à ça ? Si je vais sur la page d'accueil, je peux faire F5 tant que je veux, j'ai jamais ça.
votre avatar
Si je savais comment ça se produit, il n'y aurait pas de problème. :D
votre avatar
c'est vraiment super ces transcriptions ! Merci Next!

J'y vois l'intérêt de voire le travail du journaliste : quand son article condensé vient en fait d'une interview longue ça donne de la matière...

Et de revenir à la source : dans les commentaires (souvent critiques) du lectorat de Next, il y a pas mal d'affirmations péremptoires, des lieux communs, issus de gros médias, etc... et là avoir la parole directe du chercheur qui bosse depuis des lustres sur un sujet donne une légitimité au journaliste. (c'est pas parfait, et l'ère de la post-vérité nous amène à douter des paroles d'expert.es, mais c'est mieux que rien).
votre avatar
Merci, elle est incroyable cette interview, j'ai tout lu et ça valait le coup.

Jean-Gabriel Ganascia : avec l’IA, “l’espace public est en train de disparaître”

  • Qu’est-ce que l'intelligence artificielle?

  • L’IA n’a donc rien de neuf ?

  • Est-ce qu’il n’y a pas, tout de même, une différence entre le champ de recherche scientifique – qui chercherait à mieux comprendre l'intelligence humaine – et la partie applicative, à la fois scientifique, mais aussi économique ?

  • Il y a eu le jeu d’échec, le jeu de go… Pendant très longtemps, et peut-être même encore aujourd’hui, c’est spécifiquement le jeu qui a servi d'étalon pour dire à quel point les machines arrivaient à produire de l'intelligence artificielle.
 Pourquoi ?

  • 
Récemment, ce qui fait le plus de bruit en matière d’intelligence artificielle, c'est l'arrivée des modèles génératifs. Ces derniers représentent-ils une rupture dans les réflexions sur l'intelligence artificielle qui ont lieu depuis 70 ans, ou en sont-ils la continuité ?

  • En quoi les modèles génératifs nous aident-ils à mieux comprendre l'intelligence humaine ?

  • Ce qui a surpris, c'est la qualité des résultats ?

  • Parmi les problématiques que ces modèles ont rendues visibles, mais qui étaient déjà largement étudiées dans le milieu scientifique, il y a toute la question des biais… On a vu Chat GPT dire que les femmes ne pouvaient pas faire tel métier, alors que les hommes si, Midjourney produire des images extrêmement stéréotypées de ce qu’était une banlieue, en produisant des clichés de destruction. Tout cela a permis de discuter de cette notion de biais, qui est plus compliquée que ce qu'on pourrait croire.

  • Là, quand vous dites discrimination, c'est au sens tout à fait classique de discrimination sociale, sans prendre en compte les seuls résultats de la machine ?

  • Est-ce que la notion de biais n'est pas aussi floue parce que derrière, on peut y mettre un sens statistique, parfois un sens économique, ou social, et que les trois ne sont pas réductibles ensemble ?

  • En 2016, vous publiiez Le mythe de la singularité. Depuis, l'intelligence artificielle générative a émergé et fait revenir le même type de débats qu’à l’époque. Pour résumer, pourquoi l'idée que la machine ait une conscience, comme le disaient Blake Lemoine et d’autres, n’a pas de sens ?

  • Vu la classification des trois concepts que vous faites, quand Blake Lemoine dit que Bert ou LaMDA sont conscients, en réalité, il est en train de projeter sur les résultats de la machine ?

  • Beaucoup des discours qui parlent de cette potentielle conscience des machines sont formulés sur un ton inquiétant, mais le sont aussi souvent par la voix de gens qui travaillent dans le domaine. Soit ils y travaillent d’un point de vue scientifique, soit ils le promeuvent d'un point de vue économique... Comme s'ils expliquaient que c'est parce que les machines risquent de nous dépasser qu’il faut continuer de travailler dessus… Comment expliquez-vous ce paradoxe?

  • En 2016, vous terminiez votre livre sur une question ouverte : « Comment faire pour que les peurs métaphysiques ne masquent pas les dangers réels » ? Est-ce qu’entre temps vous avez trouvé la réponse ?

  • On ne sort pas de la démarche scientifique dans un cas comme ça ?

  • Quels sont les dangers réels dont on devrait plutôt s’occuper, plutôt que de se pencher sur ces discours-là ?

  • Plus que leurs effets sur le monde du travail ?

  • Pour se pencher sur les problématiques réelles dont vous parliez tout à l'heure, il y a eu beaucoup de réflexions, dans le milieu, ce qui a notamment mené à l’émergence du champ de l'éthique de l'intelligence artificielle. Dans Servitudes Virtuelles, que vous avez publié en 2022, vous expliquez que malheureusement, beaucoup des principes de cette éthique tirés de la médecine ne sont pas adaptés au champ de l'IA. Pourquoi ?

  • Pour rester sur l’AI Act, une autre approche que l'approche par les risques aurait-elle été plus efficace selon vous ? Aurait-il plutôt fallu travailler par industrie, par secteur…

  • À la fin de Servitudes Virtuelles, vous proposiez des principes formulés par Camus. Est-ce que vous pouvez nous les rappeler, et nous dire si, quelques années plus tard, ces derniers vous semblent toujours être de bons guides ?

Fermer