Effectivement une démonstration flagrante que l’I.A. va juste à la pêche au contenu les plus bateaux pour donner l’illusion d’une réponse compétente.

wagaf a dit:

“Fausse”/“Honnête”… par rapport à quoi ? Ce qui compte dans la nature (au moins du point de vue de la pression sélective) c’est le comportement effectif d’un animal. De même, ce qui est recherché dans la conception d’une IA, c’est son comportement effectif. De plus, une bonne part de nos comportements sont appris en regardant et en imitant les autres, ce n’est pas “faux” pour autant.

Par rapport à une intention de conception… Une IA est créée à dessein avec une structure, un modèle et des biais de normalisation des données et d’entrainement. Un outil comme LaMDA est décomposable d’ailleurs en plusieurs IA distinctes remplissant chacune des fonctions précises et intentionnelles…

Si on prend l’humain comme point de référence dans l’évolution, et qu’on part du principe que l’on a à peu près une certitude par rapport à la conscience, la personnalité, les sentiments, … on peut se dire que les autres animaux qui ont évolué plus ou moins de la même base que nous avec plus ou moins les mêmes enjeux et un parcours pas si différent de nous sur plusieurs millions d’années doivent être également assez proche de nous.

Entre une I.A. capable de se comporter comme si elle avait mal, une I.A. qui compose une fable sur la douleur sur base de la cache de google et une I.A. ressentant et vivant la douleur, il y a des différences assez larges, dont certaines ne pourront sans doutes pas être couvertes avant longtemps.

Tes exemples illustrent bien pourquoi il faudra mettre cette limite quelquepart pour des raisons pragmatiques. Quand les IA se multiplieront et s’amélioreront, on ne pourra pas refaire un débat de société à chaque fois.

Les I.A. qui se multiplient, à tort et à travers on y est déjà, il suffit de regarder les présences de “deep learning” dans le bingo du marketting dans l’IT. Par contre les I.A. “vivantes”, on est loin du compte… enfin quoique, il y a des idées… https://www.smithsonianmag.com/smart-news/weve-put-worms-mind-lego-robot-body-180953399/

Les capacités intellectuelles des humains sont fréquemment évauées, à tord ou à raison, par leur capacité à “pisser du texte”.

On a aussi des tests de QI normalisés… et dans l’ensemble, on est déjà en mesure de faire des I.A. capables de réussir ces tests haut la main si c’est l’objectif recherché… de là à dire que ces I.A. sont pensantes et pourvues de sentiments et d’émotions… il y a un pas à ne pas franchir.

Il faut aussi considérer que LaMDA est la toute première IA pour laquelle cette question se pose (même si la réponse est assez claire pour presque tout le monde). Si aujourd’hui un humain un peu exentrique est convaincu, demain beaucoup plus de gens le seront.

C’est un débat sensationnaliste qui ressort à chaque fois que l’on a une avancée dans le domaine… Quand Watson a gagné au Jeopardy, c’était pareil.

Si je n’ai aucun doute sur le fait qu’on puisse effectivement y arrive à terme à créer une véritable I.A. capable de ressentir et d’avoir une personnalité, je ne pense pas que se focaliser sur la capacité d’imitation du discours humain par un système informatique clairement conçu dans se but soit la bonne approche.

Je pense au contraire que la première I.A. ‘vivante’ digne d’avoir des droits fondamentaux ne sera probablement pas du de ces systèmes d’imitation interactive, mais apparaîtra plutôt à l’abri des regards, dans un système de maintenance industriel, par exemple, où l’anthropomorphisme et le confort de l’interlocuteur ne seront pas nécessaires mais où une capacité d’analyse et d’adaptation rapide sont nécessaires.

wagaf a dit:

Comme pour les animaux, c’est le fait que les gens soient convaincus de leur sensibilité ou de leur conscience qui compte pour définir la manière dont la société va les traiter.

Nous sommes des animaux… il est donc facile de tirer un parallèle et d’observer les comportements.

Pour les I.A., c’est plus difficile de décider car on a pas de point de référence et qu’on a souvent une approche très superficielle…

Justement, cette catégorie d’IA n’est pas entrainée spécifiquement pour un test précis (comme l’était Watson) mais pour interagir avec des humains de la manière la plus générique possible. Ces modèles sont même utilisés pour générer du code source.

Oui, mais une grande compétence rédactionnelle ne veut pas dire qu’il y a quelque-chose derrière.

LaMDA est un système orienté dialogue, il a été entrainé à dialoguer et se construire un modèle prédictif lui permettant de “deviner” la suite de la conversation pour répondre, et avec la quantité d’entrainement effectué et la richesse des contenus injectés, l’I.A. est devenue très forte pour prédire ce qui serait une réponse crédible.

Ce n’est pas une I.A. “vivante, c’est juste un très bon modèle avec un excellent apprentissage.

Les systèmes industriels sont typiquement d’une grande simplicité en comparaison du fonctionnement humain. De plus, un tel système a peu de chance d’être reconnu comme conscient ou sensible par les humains. C’est la proximité avec le fonctionnement humain qui fait qu’on reconnait une sensibilité ou une conscience, comme tu le fais bien remarquer à propos des annimaux.

Les humains +sont+ des animaux… on peut donc déduire que les animaux moins intelligents que nous partagent tout de même une base commune, et de nombreuses expériences prouvent la présence d’un intellect et de sentiments, même parfois en l’absence totale de contact avec l’humain.

Les I.A. sont très différentes, elles sont conçues bien souvent pour faire écho à des capacités propres à notre espèce, et le langage est évidemment une de compétences qui nous caractérise le plus, et que du coup nous traitons avec la plus haute urgence.

On se focalise à reproduire les effets de notre nature tout en évitant de traiter les causes de notre nature car nous sommes pragmatiques et orientés résultat.

Mais il ne faut pas se leurrer, tant que nous n’aurons pas travaillé sur les fondations de notre intelligence, de notre conscience et de nos sentiments, nous ne pouvons que rester à la surface du problème en créant des systèmes très compétents pour imiter, mais complètement vides de tout potentiel “humain”.

Personnellement, je pense qu’une vrai intelligence artificielle ‘vivante’, pourrait tout à fait émerger dans des systèmes ne nécessitant pas le langage, mais nécessitant des interactions physiques continues avec l’environnement. Un système pilotant des robots genre Boston Dynamics pour de l’inspection préventive, par exemple, pourrait évoluer en complexité à un point où une forme d’intelligence “animale” pourrait émerger de manière minimaliste et contrôlée.