Selon le patron de la SEC, l’IA sera au cœur de futures crises économiques

Selon le patron de la SEC, l’IA sera au cœur de futures crises économiques

Selon le patron de la SEC, l’IA sera au cœur de futures crises économiques

Directeur de la Securities and Exchange Commission (SEC), l’autorité états-unienne de régulation des marchés financiers, Gary Gensler s’est inquiété auprès de Dealbook des risques que l’expansion de l’intelligence artificielle fait peser sur le système financier.

Il se repose en cela sur l’article de recherche qu’il a co-publié en 2020 avec Lily Bailey sur les effets de l’usage croissant de l’apprentissage profond sur la stabilité économique.

Il y estimait alors que les évolutions de ce type de technologies pousseraient à l’adoption d’un faible nombre de modèles d’IA par un très grand nombre d’entreprises. Cela augmenterait aussi l’uniformité et l’interconnexion entre systèmes financiers, les rendant encore plus complexes à réguler.

Inquiets de la manière dont l’IA pourrait être utilisée pour pousser les investisseurs à agir contre leurs intérêts, la SEC et son dirigeant ont par ailleurs proposé en juillet dernier un projet de régulation pour interdire aux courtiers numériques à la Robinhood de les utiliser pour favoriser leurs intérêts propres plutôt que ceux de leurs clients.

Commentaires (34)


J'entendais, pas plus tard que ce matin sur Télé Matin, que de nombreux américains Républicains avaient reçu un appel de l'actuel président des Etats-Unis Joe Biden les incitant à ne pas aller voter pour ne pas faire réélire Donald Trump.

Apparemment, l'appel enregistré a été généré par une IA.
Source d'info Télé Matin ? :stress:

A chaque fois que j'entends un truc sur un certain nombre de sujet, ils sont totalement à côté de la plaque.

T'es certains que c'est pas uniquement le texte ?

the_Grim_Reaper

Source d'info Télé Matin ? :stress:

A chaque fois que j'entends un truc sur un certain nombre de sujet, ils sont totalement à côté de la plaque.

T'es certains que c'est pas uniquement le texte ?
On peut entendre le message ici : https://edition.cnn.com/videos/politics/2024/01/23/robocall-fake-biden-new-hampshire-primary-nn-vpx.cnn

Une enquête est en cours pour essayer de savoir d’où ça vient.
Modifié le 25/01/2024 à 09h19

Ler van keeg

On peut entendre le message ici : https://edition.cnn.com/videos/politics/2024/01/23/robocall-fake-biden-new-hampshire-primary-nn-vpx.cnn

Une enquête est en cours pour essayer de savoir d’où ça vient.
À qui profite le crime ? Qui est prêt à user de n'importe quelle méthode pour décrédibiliser Biden ? Qui a déjà montré qu'il était prêt à n'importe quelle bassesse ?

alex.d.

À qui profite le crime ? Qui est prêt à user de n'importe quelle méthode pour décrédibiliser Biden ? Qui a déjà montré qu'il était prêt à n'importe quelle bassesse ?
Musk ? :fume:

the_Grim_Reaper

Musk ? :fume:
Ou Poutine, Trump, Bolsonaro, Jinping, Netanyahou, Kim, ...
Modifié le 25/01/2024 à 10h36

the_Grim_Reaper

Source d'info Télé Matin ? :stress:

A chaque fois que j'entends un truc sur un certain nombre de sujet, ils sont totalement à côté de la plaque.

T'es certains que c'est pas uniquement le texte ?
Certains que c'est pas juste le texte, car ils ont passé un extrait.

Donc soit Télé matin crée de toutes pièces de fausses nouvelles (très peu probable bien que pas totalement impossible), soit l'appel existe réellement.

Et comme a répondu Ler van keeg, l'enquête est en cours (car oui, je n'ai pas précisé dans mon commentaire précédent, mais l'équipe de Biden ne serait pas à l'origine de l'appel, ils n'auraient pas eu besoin d'IA sinon !)

fdorin

Certains que c'est pas juste le texte, car ils ont passé un extrait.

Donc soit Télé matin crée de toutes pièces de fausses nouvelles (très peu probable bien que pas totalement impossible), soit l'appel existe réellement.

Et comme a répondu Ler van keeg, l'enquête est en cours (car oui, je n'ai pas précisé dans mon commentaire précédent, mais l'équipe de Biden ne serait pas à l'origine de l'appel, ils n'auraient pas eu besoin d'IA sinon !)
Alors les approximations grossières et les raccourcis de leur part c'est assez souvent.

d'où mon interrogation.
Ils sont capable de dire que c'et la voix de Joe Biden par IA alors que c'était juste le texte qui avait été pondu par IA pour correspondre à la population cible.

Comme le disais @Ler van keeg on verra bien avec l'enquête.
Les actues un peu "pointu" version Télé Matin c'est du même niveau que 20 minutes d'expérience, ça vaut autant qu'une affirmation de Musk sur la qualité/solidité de son CyberTruck à s présentation.
Dans la mesure où aujourd'hui placer le mot "IA" dans un plan de développement permet d'ouvrir en grand les robinets à pognon, ça me semble relativement évident qu'au-moins une crise future sera liée à l'IA, quand la bulle actuelle éclatera...
En fait, il soulève 2 problèmes très différents qui sont tous les 2 de son ressort.

Le premier correspond au titre de la brève, sauf que le mot "économiques" ne me semble pas approprié. Il s'agit avant tout de crises financières qui peuvent ensuite avoir un effet sur l'économie.
Ce risque s'appuie sur le fait qu'il y aura très peu de modèles d'IA sur lesquels s'appuieront tous ceux qui offriront des services de conseil en investissement et qu'à partir de là, ces modèles donneront tous des conseils (vente ou achat) au même moment ce qui fera qu'il y aura un phénomène de "troupeau" qui va entraîner un effet boule de neige.
Il a probablement raison sur ces systèmes à base d'IA, mais les bourses ont des systèmes prévus pour cela : les suspension de cotation. Il faudra peut-être les renforcer.
Il y a déjà eu des risques systémiques qui ont généré des crises importantes bien avant l'utilisation de l'IA.

Le second correspond au dernier paragraphe : les systèmes d'IA conseillant les clients pourraient les pousser à faire plus de transactions pour que les courtiers numériques touchent des frais à chaque transaction. Cela va bien évidement contre les intérêts des clients et il rappelle d'ailleurs que c'est déjà interdit et que cela doit s'appliquer aussi quand c'est une IA qui donne de mauvais conseil.
L'article pointe surtout la substitution des modèles d'hyper trading aujourd'hui générés par des traders/ingénieurs financiers à des modèles générés par l'IA. D'ailleurs, chaque créateur d'un modèle garde jalousement son code secret !
Il faut comprendre qu'aujourd'hui, les transactions en chambres de compensation sont pour la plupart automatisés. Les ordres manuels sont réservés aux petits porteurs. Le phénomène de meute s'explique par la taille des fonds gérés par un modèle.

Le risque des modèles deep learning, ce sera leur uniformisation, du coup plus de fluctuation de cours ou des dévissages extrêmes en mode exponentiel. Et ça, c'est pas bon pour le business :)
Modifié le 25/01/2024 à 11h23

thecis

L'article pointe surtout la substitution des modèles d'hyper trading aujourd'hui générés par des traders/ingénieurs financiers à des modèles générés par l'IA. D'ailleurs, chaque créateur d'un modèle garde jalousement son code secret !
Il faut comprendre qu'aujourd'hui, les transactions en chambres de compensation sont pour la plupart automatisés. Les ordres manuels sont réservés aux petits porteurs. Le phénomène de meute s'explique par la taille des fonds gérés par un modèle.

Le risque des modèles deep learning, ce sera leur uniformisation, du coup plus de fluctuation de cours ou des dévissages extrêmes en mode exponentiel. Et ça, c'est pas bon pour le business :)
Tu peux me dire où on parle de cette substitution ? J'ai lu les 2 articles en lien, mais je n'ai rien vu de tel. Par contre, je n'ai pas lu tout son article de recherche mais parcouru rapidement. l'expression high frequency n'y apparaît que 3 fois et jamais pour dire ce que tu dis. La première fois, il dit certes que les high frequency traders commencent à utiliser le Deep Learning, mais ce ne sont pas les seuls. Les 2 autres fois, il explique que le traiding haute fréquence a déjà pu causer des crises avant l'IA.

Il me semble que c'est une utilisation généralisée (ou en tout cas important) et automatique de ces systèmes qui lui font peur.
Il dit aussi que les outils des régulateurs ne pourraient pas détecter à temps pour la contrer ce qu'il appelle une coordination algorithmique. Il répond à un des point que je soulevais plus haut sur ces outils.

fred42

Tu peux me dire où on parle de cette substitution ? J'ai lu les 2 articles en lien, mais je n'ai rien vu de tel. Par contre, je n'ai pas lu tout son article de recherche mais parcouru rapidement. l'expression high frequency n'y apparaît que 3 fois et jamais pour dire ce que tu dis. La première fois, il dit certes que les high frequency traders commencent à utiliser le Deep Learning, mais ce ne sont pas les seuls. Les 2 autres fois, il explique que le traiding haute fréquence a déjà pu causer des crises avant l'IA.

Il me semble que c'est une utilisation généralisée (ou en tout cas important) et automatique de ces systèmes qui lui font peur.
Il dit aussi que les outils des régulateurs ne pourraient pas détecter à temps pour la contrer ce qu'il appelle une coordination algorithmique. Il répond à un des point que je soulevais plus haut sur ces outils.
Ah mais j'ai répondu trop vite. Je n'ai pas lu les articles. Je pensais que la réflexion du bonhomme allait sur le terrain d'uniformisation des modèles de trading hautes fréquences lié à l'utilisation du deep learning.
Pourquoi? Car ce type de trading couvre une majorité des mouvements sur les marchés côtés, et effectivement, il a déjà généré certains dévissages de cours.
Par conséquent, je vois pas trop de quoi il a peur. Je regarderais les articles.

thecis

L'article pointe surtout la substitution des modèles d'hyper trading aujourd'hui générés par des traders/ingénieurs financiers à des modèles générés par l'IA. D'ailleurs, chaque créateur d'un modèle garde jalousement son code secret !
Il faut comprendre qu'aujourd'hui, les transactions en chambres de compensation sont pour la plupart automatisés. Les ordres manuels sont réservés aux petits porteurs. Le phénomène de meute s'explique par la taille des fonds gérés par un modèle.

Le risque des modèles deep learning, ce sera leur uniformisation, du coup plus de fluctuation de cours ou des dévissages extrêmes en mode exponentiel. Et ça, c'est pas bon pour le business :)
Le high frequency trading
https://fr.m.wikipedia.org/wiki/Transactions_à_haute_fréquence
Le High Frequency Trading, par Warrant Marrant
https://www.dailymotion.com/video/x89u7u9

modif : ajout du lien vidéo Warrant Marrant
Modifié le 25/01/2024 à 12h55
Les crises économiques sont dues à des mauvaises décisions prises par des humains.

Le fait que les humains se soient appuyés sur les conseils d'une IA ou d'une astrologue est anecdotique.
Non, ce n'est pas anecdotique.
Il y a un effet d’entraînement qui peut faire que le système s'emballe puisque tous les systèmes d'IA pousseraient à faire la même chose, ce qui n'est pas le cas pour les astrologues.

En plus, dans le cas d'une gestion déléguée (à une IA), ces décisions seraient prises automatiquement et le client humain n'a pas à intervenir.
Remarque : il existe des gestion déléguées à des robots-advisors. Aux USA, c'est effectivement complètement automatisé, en France, c'est plutôt un mélange de décision humaine et automatisée.

fred42

Non, ce n'est pas anecdotique.
Il y a un effet d’entraînement qui peut faire que le système s'emballe puisque tous les systèmes d'IA pousseraient à faire la même chose, ce qui n'est pas le cas pour les astrologues.

En plus, dans le cas d'une gestion déléguée (à une IA), ces décisions seraient prises automatiquement et le client humain n'a pas à intervenir.
Remarque : il existe des gestion déléguées à des robots-advisors. Aux USA, c'est effectivement complètement automatisé, en France, c'est plutôt un mélange de décision humaine et automatisée.
Je comprends bien les implications d'insérer une IA dans un processus de décision automatisé.

Mais pour moi l'IA n'est rien qu'un énième bloc fonctionnel "output = F(input)" dans ce processus.

Le problème c'est l'humain qui a décidé que c'était une bonne idée de mettre ce bloc là (plutôt qu'un autre) dans son processus.

Tu ne peut pas faire cela à la légère dans des industries régulées (aviation, médical) sans passer par une analyse des risques + une justification. Mais visiblement, dans la finance ca pose pas de problème.
Si l'IA pouvait nous débarrasser des boursicoteurs et autres criminels en col blanc, ça ne ferait pas de mal :fumer:

S'ils s'inquiètent, c'est que c'est sur la bonne voie !
Tu pourrais développer ?
De quels criminels en col blancs parles-tu ?
Fais-tu une différence entre un investisseur et un boursicoteur ?
Comment veux-tu financer l'économie ?

fred42

Tu pourrais développer ?
De quels criminels en col blancs parles-tu ?
Fais-tu une différence entre un investisseur et un boursicoteur ?
Comment veux-tu financer l'économie ?
Comment veux-tu financer l'économie ?


Je ne suis pas compétant pour dire ce qu'il y a à corriger / changer, mais on a quand même pu constater qu'il y avait "quelques" problèmes avec le système actuel.

gg40

Comment veux-tu financer l'économie ?


Je ne suis pas compétant pour dire ce qu'il y a à corriger / changer, mais on a quand même pu constater qu'il y avait "quelques" problèmes avec le système actuel.
Super ton argumentation ! Merci beaucoup d'avoir participé.

fred42

Super ton argumentation ! Merci beaucoup d'avoir participé.
Je voulais juste aller un peu dans sens de @Cyberastronaute c'est tout.

gg40

Je voulais juste aller un peu dans sens de @Cyberastronaute c'est tout.
C'est bien ce que je disais, tu as autant d'arguments que lui. C'est parfait pour pouvoir débattre.
Comme fred42, je comprends pas le fond car beaucoup d'amalgames en très peu de mots...

thecis

Comme fred42, je comprends pas le fond car beaucoup d'amalgames en très peu de mots...
Pour faire un jeu de mot, j'ai l'impression que le fond, il l'a touché.
Je ne connaissais pas le broker Robinhood. Apparemment, c'est un courtier en ligne «sans frais» qui veut «démocratiser l'accès à la finance» et aux cryptos. Le modèle économique n'est pas sans controverse.
À vue de nez, quand je lis qu'il existe des applis mobile pour acheter des cryptos et des actions, avec effets de levier, sans commission, il y a danger. On ajoute un peu d'IA, c'est la cerise sur le gâteau.

https://fr.wikipedia.org/wiki/Robinhood_(entreprise)
https://www.tradingsat.com/actualites/informations-societes/le-courtier-sans-frais-robinhood-n-a-plus-la-cote-le-groupe-licencie-plus-de-750-personnes-1030131.html
Modifié le 25/01/2024 à 12h29

Jovial-Ogre-perceptif

Je ne connaissais pas le broker Robinhood. Apparemment, c'est un courtier en ligne «sans frais» qui veut «démocratiser l'accès à la finance» et aux cryptos. Le modèle économique n'est pas sans controverse.
À vue de nez, quand je lis qu'il existe des applis mobile pour acheter des cryptos et des actions, avec effets de levier, sans commission, il y a danger. On ajoute un peu d'IA, c'est la cerise sur le gâteau.

https://fr.wikipedia.org/wiki/Robinhood_(entreprise)
https://www.tradingsat.com/actualites/informations-societes/le-courtier-sans-frais-robinhood-n-a-plus-la-cote-le-groupe-licencie-plus-de-750-personnes-1030131.html
Oui, ils ont l'air particulièrement inventifs.

Et encore une fois, si c'est gratuit, c'est toi le produit.

Ils étaient en partie rémunérés par des tiers qui payaient pour qu'ils fassent évoluer le flux des ordres de leurs clients qui au final payaient plus cher leurs actions.

Jovial-Ogre-perceptif

Je ne connaissais pas le broker Robinhood. Apparemment, c'est un courtier en ligne «sans frais» qui veut «démocratiser l'accès à la finance» et aux cryptos. Le modèle économique n'est pas sans controverse.
À vue de nez, quand je lis qu'il existe des applis mobile pour acheter des cryptos et des actions, avec effets de levier, sans commission, il y a danger. On ajoute un peu d'IA, c'est la cerise sur le gâteau.

https://fr.wikipedia.org/wiki/Robinhood_(entreprise)
https://www.tradingsat.com/actualites/informations-societes/le-courtier-sans-frais-robinhood-n-a-plus-la-cote-le-groupe-licencie-plus-de-750-personnes-1030131.html
ah oui, démocratiser l'accès a des produits financier, quelle catastrophe !

psikobare

ah oui, démocratiser l'accès a des produits financier, quelle catastrophe !
Lui, c'est vraiment une catastrophe si tu lis bien sa page Wikipédia !

psikobare

ah oui, démocratiser l'accès a des produits financier, quelle catastrophe !
Si on voulait démocratiser l'accès à des produits financiers, on organiserait les choses : pédagogie, tutoriels, Mooc, …
Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'ais pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne sois pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour « lapins de 3 semaines », mais « c'est le jeu ma pauvre Lucette », comme dirait la FDJ.
Modifié le 05/03/2024 à 10h37

Historique des modifications :

Posté le 05/03/2024 à 10h34


Si on voulait démocratiser l'accès à des produits financiers, on organiserait les choses : pédagogie, tutoriels, Mooc, …

Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'es pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne soit pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour lapins de 3 semaines, mais c'est le jeu ma pauvre Lucette, comme dirais la FDJ.

Posté le 05/03/2024 à 10h36


Si on voulait démocratiser l'accès à des produits financiers, on organiserait les choses : pédagogie, tutoriels, Mooc, …
Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'ais pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne sois pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour « lapins de 3 semaines », mais « c'est le jeu ma pauvre Lucette », comme dirais la FDJ.

Peut-on m'expliquer en quoi l'avis du patron de la SEC sur le sujet de l'IA est pertinent ?
Ce type a le même bagage en IA que la conseillère de l'agence bancaire de détail au coin de ma rue.
Modifié le 25/01/2024 à 17h07
J'imagine qu'il s'appuie sur des études / rapport qui lui on été présenté et que son avis et donc plus éclairé que la plupart des notres. Oui c'est vrai, mon monde est un monde de bisounours:mad2:
Le régulateur des activités boursières a un peu plus d'informations et d'experts que ton agence bancaire (même si tu parles d'une banque privée, gestion patrimoniale) et n'a pas d'intérêts commerciaux ou financiers à défendre contrairement à ton agence bancaire. Mais je crois que tu voulais sous-entendre autre chose avec ta comparaison «patron» versus «conseillère».
On va faire autrement.
Que dit-il de faux, en particulier dans son papier de recherche en lien ?

Sinon, pour répondre un peu à ta question, va lire cette partie de sa fiche Wikipédia.
Modifié le 25/01/2024 à 17h51
Fermer