Connexion

Catégories

Droit Économie Flock Hardware IA Internet Logiciel Sciences Sécurité Société

Nous Suivre

Contact rédaction Contact site Forum
Flux RSS GitHub Discord

À propos

Abonnez-vous

Selon le patron de la SEC, l’IA sera au cœur de futures crises économiques

Selon le patron de la SEC, l’IA sera au cœur de futures crises économiques

Le 25 janvier à 06h46

Directeur de la Securities and Exchange Commission (SEC), l’autorité états-unienne de régulation des marchés financiers, Gary Gensler s’est inquiété auprès de Dealbook des risques que l’expansion de l’intelligence artificielle fait peser sur le système financier.

Il se repose en cela sur l’article de recherche qu’il a co-publié en 2020 avec Lily Bailey sur les effets de l’usage croissant de l’apprentissage profond sur la stabilité économique.

Il y estimait alors que les évolutions de ce type de technologies pousseraient à l’adoption d’un faible nombre de modèles d’IA par un très grand nombre d’entreprises. Cela augmenterait aussi l’uniformité et l’interconnexion entre systèmes financiers, les rendant encore plus complexes à réguler.

Inquiets de la manière dont l’IA pourrait être utilisée pour pousser les investisseurs à agir contre leurs intérêts, la SEC et son dirigeant ont par ailleurs proposé en juillet dernier un projet de régulation pour interdire aux courtiers numériques à la Robinhood de les utiliser pour favoriser leurs intérêts propres plutôt que ceux de leurs clients.

Le 25 janvier à 06h46

Commentaires (34)

Vous devez être abonné pour pouvoir commenter.

Abonnez-vous
votre avatar
J'entendais, pas plus tard que ce matin sur Télé Matin, que de nombreux américains Républicains avaient reçu un appel de l'actuel président des Etats-Unis Joe Biden les incitant à ne pas aller voter pour ne pas faire réélire Donald Trump.

Apparemment, l'appel enregistré a été généré par une IA.
votre avatar
Source d'info Télé Matin ? :stress:

A chaque fois que j'entends un truc sur un certain nombre de sujet, ils sont totalement à côté de la plaque.

T'es certains que c'est pas uniquement le texte ?
votre avatar
On peut entendre le message ici : https://edition.cnn.com/videos/politics/2024/01/23/robocall-fake-biden-new-hampshire-primary-nn-vpx.cnn

Une enquête est en cours pour essayer de savoir d’où ça vient.
votre avatar
À qui profite le crime ? Qui est prêt à user de n'importe quelle méthode pour décrédibiliser Biden ? Qui a déjà montré qu'il était prêt à n'importe quelle bassesse ?
votre avatar
Musk ? :fume:
votre avatar
Ou Poutine, Trump, Bolsonaro, Jinping, Netanyahou, Kim, ...
votre avatar
Certains que c'est pas juste le texte, car ils ont passé un extrait.

Donc soit Télé matin crée de toutes pièces de fausses nouvelles (très peu probable bien que pas totalement impossible), soit l'appel existe réellement.

Et comme a répondu Ler van keeg, l'enquête est en cours (car oui, je n'ai pas précisé dans mon commentaire précédent, mais l'équipe de Biden ne serait pas à l'origine de l'appel, ils n'auraient pas eu besoin d'IA sinon !)
votre avatar
Alors les approximations grossières et les raccourcis de leur part c'est assez souvent.

d'où mon interrogation.
Ils sont capable de dire que c'et la voix de Joe Biden par IA alors que c'était juste le texte qui avait été pondu par IA pour correspondre à la population cible.

Comme le disais @Ler van keeg on verra bien avec l'enquête.
Les actues un peu "pointu" version Télé Matin c'est du même niveau que 20 minutes d'expérience, ça vaut autant qu'une affirmation de Musk sur la qualité/solidité de son CyberTruck à s présentation.
votre avatar
Dans la mesure où aujourd'hui placer le mot "IA" dans un plan de développement permet d'ouvrir en grand les robinets à pognon, ça me semble relativement évident qu'au-moins une crise future sera liée à l'IA, quand la bulle actuelle éclatera...
votre avatar
En fait, il soulève 2 problèmes très différents qui sont tous les 2 de son ressort.

Le premier correspond au titre de la brève, sauf que le mot "économiques" ne me semble pas approprié. Il s'agit avant tout de crises financières qui peuvent ensuite avoir un effet sur l'économie.
Ce risque s'appuie sur le fait qu'il y aura très peu de modèles d'IA sur lesquels s'appuieront tous ceux qui offriront des services de conseil en investissement et qu'à partir de là, ces modèles donneront tous des conseils (vente ou achat) au même moment ce qui fera qu'il y aura un phénomène de "troupeau" qui va entraîner un effet boule de neige.
Il a probablement raison sur ces systèmes à base d'IA, mais les bourses ont des systèmes prévus pour cela : les suspension de cotation. Il faudra peut-être les renforcer.
Il y a déjà eu des risques systémiques qui ont généré des crises importantes bien avant l'utilisation de l'IA.

Le second correspond au dernier paragraphe : les systèmes d'IA conseillant les clients pourraient les pousser à faire plus de transactions pour que les courtiers numériques touchent des frais à chaque transaction. Cela va bien évidement contre les intérêts des clients et il rappelle d'ailleurs que c'est déjà interdit et que cela doit s'appliquer aussi quand c'est une IA qui donne de mauvais conseil.
votre avatar
L'article pointe surtout la substitution des modèles d'hyper trading aujourd'hui générés par des traders/ingénieurs financiers à des modèles générés par l'IA. D'ailleurs, chaque créateur d'un modèle garde jalousement son code secret !
Il faut comprendre qu'aujourd'hui, les transactions en chambres de compensation sont pour la plupart automatisés. Les ordres manuels sont réservés aux petits porteurs. Le phénomène de meute s'explique par la taille des fonds gérés par un modèle.

Le risque des modèles deep learning, ce sera leur uniformisation, du coup plus de fluctuation de cours ou des dévissages extrêmes en mode exponentiel. Et ça, c'est pas bon pour le business :)
votre avatar
Tu peux me dire où on parle de cette substitution ? J'ai lu les 2 articles en lien, mais je n'ai rien vu de tel. Par contre, je n'ai pas lu tout son article de recherche mais parcouru rapidement. l'expression high frequency n'y apparaît que 3 fois et jamais pour dire ce que tu dis. La première fois, il dit certes que les high frequency traders commencent à utiliser le Deep Learning, mais ce ne sont pas les seuls. Les 2 autres fois, il explique que le traiding haute fréquence a déjà pu causer des crises avant l'IA.

Il me semble que c'est une utilisation généralisée (ou en tout cas important) et automatique de ces systèmes qui lui font peur.
Il dit aussi que les outils des régulateurs ne pourraient pas détecter à temps pour la contrer ce qu'il appelle une coordination algorithmique. Il répond à un des point que je soulevais plus haut sur ces outils.
votre avatar
Ah mais j'ai répondu trop vite. Je n'ai pas lu les articles. Je pensais que la réflexion du bonhomme allait sur le terrain d'uniformisation des modèles de trading hautes fréquences lié à l'utilisation du deep learning.
Pourquoi? Car ce type de trading couvre une majorité des mouvements sur les marchés côtés, et effectivement, il a déjà généré certains dévissages de cours.
Par conséquent, je vois pas trop de quoi il a peur. Je regarderais les articles.
votre avatar
Le high frequency trading
https://fr.m.wikipedia.org/wiki/Transactions_à_haute_fréquence
Le High Frequency Trading, par Warrant Marrant
https://www.dailymotion.com/video/x89u7u9

modif : ajout du lien vidéo Warrant Marrant
votre avatar
Les crises économiques sont dues à des mauvaises décisions prises par des humains.

Le fait que les humains se soient appuyés sur les conseils d'une IA ou d'une astrologue est anecdotique.
votre avatar
Non, ce n'est pas anecdotique.
Il y a un effet d’entraînement qui peut faire que le système s'emballe puisque tous les systèmes d'IA pousseraient à faire la même chose, ce qui n'est pas le cas pour les astrologues.

En plus, dans le cas d'une gestion déléguée (à une IA), ces décisions seraient prises automatiquement et le client humain n'a pas à intervenir.
Remarque : il existe des gestion déléguées à des robots-advisors. Aux USA, c'est effectivement complètement automatisé, en France, c'est plutôt un mélange de décision humaine et automatisée.
votre avatar
Je comprends bien les implications d'insérer une IA dans un processus de décision automatisé.

Mais pour moi l'IA n'est rien qu'un énième bloc fonctionnel "output = F(input)" dans ce processus.

Le problème c'est l'humain qui a décidé que c'était une bonne idée de mettre ce bloc là (plutôt qu'un autre) dans son processus.

Tu ne peut pas faire cela à la légère dans des industries régulées (aviation, médical) sans passer par une analyse des risques + une justification. Mais visiblement, dans la finance ca pose pas de problème.
votre avatar
Si l'IA pouvait nous débarrasser des boursicoteurs et autres criminels en col blanc, ça ne ferait pas de mal :fumer:

S'ils s'inquiètent, c'est que c'est sur la bonne voie !
votre avatar
Tu pourrais développer ?
De quels criminels en col blancs parles-tu ?
Fais-tu une différence entre un investisseur et un boursicoteur ?
Comment veux-tu financer l'économie ?
votre avatar
Comment veux-tu financer l'économie ?
Je ne suis pas compétant pour dire ce qu'il y a à corriger / changer, mais on a quand même pu constater qu'il y avait "quelques" problèmes avec le système actuel.
votre avatar
Super ton argumentation ! Merci beaucoup d'avoir participé.
votre avatar
Je voulais juste aller un peu dans sens de @Cyberastronaute c'est tout.
votre avatar
C'est bien ce que je disais, tu as autant d'arguments que lui. C'est parfait pour pouvoir débattre.
votre avatar
Comme fred42, je comprends pas le fond car beaucoup d'amalgames en très peu de mots...
votre avatar
Pour faire un jeu de mot, j'ai l'impression que le fond, il l'a touché.
votre avatar
Je ne connaissais pas le broker Robinhood. Apparemment, c'est un courtier en ligne «sans frais» qui veut «démocratiser l'accès à la finance» et aux cryptos. Le modèle économique n'est pas sans controverse.
À vue de nez, quand je lis qu'il existe des applis mobile pour acheter des cryptos et des actions, avec effets de levier, sans commission, il y a danger. On ajoute un peu d'IA, c'est la cerise sur le gâteau.

fr.wikipedia.org Wikipedia
https://www.tradingsat.com/actualites/informations-societes/le-courtier-sans-frais-robinhood-n-a-plus-la-cote-le-groupe-licencie-plus-de-750-personnes-1030131.html
votre avatar
Oui, ils ont l'air particulièrement inventifs.

Et encore une fois, si c'est gratuit, c'est toi le produit.

Ils étaient en partie rémunérés par des tiers qui payaient pour qu'ils fassent évoluer le flux des ordres de leurs clients qui au final payaient plus cher leurs actions.
votre avatar
ah oui, démocratiser l'accès a des produits financier, quelle catastrophe !
votre avatar
Lui, c'est vraiment une catastrophe si tu lis bien sa page Wikipédia !
votre avatar
Si on voulait démocratiser l'accès à des produits financiers, on organiserait les choses : pédagogie, tutoriels, Mooc, …
Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'ais pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne sois pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour « lapins de 3 semaines », mais « c'est le jeu ma pauvre Lucette », comme dirait la FDJ.
votre avatar
Peut-on m'expliquer en quoi l'avis du patron de la SEC sur le sujet de l'IA est pertinent ?
Ce type a le même bagage en IA que la conseillère de l'agence bancaire de détail au coin de ma rue.
votre avatar
J'imagine qu'il s'appuie sur des études / rapport qui lui on été présenté et que son avis et donc plus éclairé que la plupart des notres. Oui c'est vrai, mon monde est un monde de bisounours:mad2:
votre avatar
Le régulateur des activités boursières a un peu plus d'informations et d'experts que ton agence bancaire (même si tu parles d'une banque privée, gestion patrimoniale) et n'a pas d'intérêts commerciaux ou financiers à défendre contrairement à ton agence bancaire. Mais je crois que tu voulais sous-entendre autre chose avec ta comparaison «patron» versus «conseillère».
votre avatar
On va faire autrement.
Que dit-il de faux, en particulier dans son papier de recherche en lien ?

Sinon, pour répondre un peu à ta question, va lire cette partie de sa fiche Wikipédia.

Selon le patron de la SEC, l’IA sera au cœur de futures crises économiques

Fermer