Directeur de la Securities and Exchange Commission (SEC), l’autorité états-unienne de régulation des marchés financiers, Gary Gensler s’est inquiété auprès de Dealbook des risques que l’expansion de l’intelligence artificielle fait peser sur le système financier.
Il se repose en cela sur l’article de recherche qu’il a co-publié en 2020 avec Lily Bailey sur les effets de l’usage croissant de l’apprentissage profond sur la stabilité économique.
Il y estimait alors que les évolutions de ce type de technologies pousseraient à l’adoption d’un faible nombre de modèles d’IA par un très grand nombre d’entreprises. Cela augmenterait aussi l’uniformité et l’interconnexion entre systèmes financiers, les rendant encore plus complexes à réguler.
Inquiets de la manière dont l’IA pourrait être utilisée pour pousser les investisseurs à agir contre leurs intérêts, la SEC et son dirigeant ont par ailleurs proposé en juillet dernier un projet de régulation pour interdire aux courtiers numériques à la Robinhood de les utiliser pour favoriser leurs intérêts propres plutôt que ceux de leurs clients.
Commentaires (34)
#1
Apparemment, l'appel enregistré a été généré par une IA.
#1.1
A chaque fois que j'entends un truc sur un certain nombre de sujet, ils sont totalement à côté de la plaque.
T'es certains que c'est pas uniquement le texte ?
#1.2
Une enquête est en cours pour essayer de savoir d’où ça vient.
#1.3
#1.4
#1.6
#1.5
Donc soit Télé matin crée de toutes pièces de fausses nouvelles (très peu probable bien que pas totalement impossible), soit l'appel existe réellement.
Et comme a répondu Ler van keeg, l'enquête est en cours (car oui, je n'ai pas précisé dans mon commentaire précédent, mais l'équipe de Biden ne serait pas à l'origine de l'appel, ils n'auraient pas eu besoin d'IA sinon !)
#1.7
d'où mon interrogation.
Ils sont capable de dire que c'et la voix de Joe Biden par IA alors que c'était juste le texte qui avait été pondu par IA pour correspondre à la population cible.
Comme le disais @Ler van keeg on verra bien avec l'enquête.
Les actues un peu "pointu" version Télé Matin c'est du même niveau que 20 minutes d'expérience, ça vaut autant qu'une affirmation de Musk sur la qualité/solidité de son CyberTruck à s présentation.
#2
#3
Le premier correspond au titre de la brève, sauf que le mot "économiques" ne me semble pas approprié. Il s'agit avant tout de crises financières qui peuvent ensuite avoir un effet sur l'économie.
Ce risque s'appuie sur le fait qu'il y aura très peu de modèles d'IA sur lesquels s'appuieront tous ceux qui offriront des services de conseil en investissement et qu'à partir de là, ces modèles donneront tous des conseils (vente ou achat) au même moment ce qui fera qu'il y aura un phénomène de "troupeau" qui va entraîner un effet boule de neige.
Il a probablement raison sur ces systèmes à base d'IA, mais les bourses ont des systèmes prévus pour cela : les suspension de cotation. Il faudra peut-être les renforcer.
Il y a déjà eu des risques systémiques qui ont généré des crises importantes bien avant l'utilisation de l'IA.
Le second correspond au dernier paragraphe : les systèmes d'IA conseillant les clients pourraient les pousser à faire plus de transactions pour que les courtiers numériques touchent des frais à chaque transaction. Cela va bien évidement contre les intérêts des clients et il rappelle d'ailleurs que c'est déjà interdit et que cela doit s'appliquer aussi quand c'est une IA qui donne de mauvais conseil.
#3.1
Il faut comprendre qu'aujourd'hui, les transactions en chambres de compensation sont pour la plupart automatisés. Les ordres manuels sont réservés aux petits porteurs. Le phénomène de meute s'explique par la taille des fonds gérés par un modèle.
Le risque des modèles deep learning, ce sera leur uniformisation, du coup plus de fluctuation de cours ou des dévissages extrêmes en mode exponentiel. Et ça, c'est pas bon pour le business :)
#3.2
Il me semble que c'est une utilisation généralisée (ou en tout cas important) et automatique de ces systèmes qui lui font peur.
Il dit aussi que les outils des régulateurs ne pourraient pas détecter à temps pour la contrer ce qu'il appelle une coordination algorithmique. Il répond à un des point que je soulevais plus haut sur ces outils.
#3.4
Pourquoi? Car ce type de trading couvre une majorité des mouvements sur les marchés côtés, et effectivement, il a déjà généré certains dévissages de cours.
Par conséquent, je vois pas trop de quoi il a peur. Je regarderais les articles.
#3.3
https://fr.m.wikipedia.org/wiki/Transactions_à_haute_fréquence
Le High Frequency Trading, par Warrant Marrant
https://www.dailymotion.com/video/x89u7u9
modif : ajout du lien vidéo Warrant Marrant
#4
Le fait que les humains se soient appuyés sur les conseils d'une IA ou d'une astrologue est anecdotique.
#4.1
Il y a un effet d’entraînement qui peut faire que le système s'emballe puisque tous les systèmes d'IA pousseraient à faire la même chose, ce qui n'est pas le cas pour les astrologues.
En plus, dans le cas d'une gestion déléguée (à une IA), ces décisions seraient prises automatiquement et le client humain n'a pas à intervenir.
Remarque : il existe des gestion déléguées à des robots-advisors. Aux USA, c'est effectivement complètement automatisé, en France, c'est plutôt un mélange de décision humaine et automatisée.
#4.2
Mais pour moi l'IA n'est rien qu'un énième bloc fonctionnel "output = F(input)" dans ce processus.
Le problème c'est l'humain qui a décidé que c'était une bonne idée de mettre ce bloc là (plutôt qu'un autre) dans son processus.
Tu ne peut pas faire cela à la légère dans des industries régulées (aviation, médical) sans passer par une analyse des risques + une justification. Mais visiblement, dans la finance ca pose pas de problème.
#5
S'ils s'inquiètent, c'est que c'est sur la bonne voie !
#5.1
De quels criminels en col blancs parles-tu ?
Fais-tu une différence entre un investisseur et un boursicoteur ?
Comment veux-tu financer l'économie ?
#5.6
Je ne suis pas compétant pour dire ce qu'il y a à corriger / changer, mais on a quand même pu constater qu'il y avait "quelques" problèmes avec le système actuel.
#5.7
#5.8
#5.9
#5.2
#5.3
#5.4
À vue de nez, quand je lis qu'il existe des applis mobile pour acheter des cryptos et des actions, avec effets de levier, sans commission, il y a danger. On ajoute un peu d'IA, c'est la cerise sur le gâteau.
https://fr.wikipedia.org/wiki/Robinhood_(entreprise)
https://www.tradingsat.com/actualites/informations-societes/le-courtier-sans-frais-robinhood-n-a-plus-la-cote-le-groupe-licencie-plus-de-750-personnes-1030131.html
#5.5
Et encore une fois, si c'est gratuit, c'est toi le produit.
Ils étaient en partie rémunérés par des tiers qui payaient pour qu'ils fassent évoluer le flux des ordres de leurs clients qui au final payaient plus cher leurs actions.
#5.10
#5.11
#5.12
Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'ais pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne sois pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour « lapins de 3 semaines », mais « c'est le jeu ma pauvre Lucette », comme dirait la FDJ.
Historique des modifications :
Posté le 05/03/2024 à 10h34
Si on voulait démocratiser l'accès à des produits financiers, on organiserait les choses : pédagogie, tutoriels, Mooc, …
Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'es pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne soit pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour lapins de 3 semaines, mais c'est le jeu ma pauvre Lucette, comme dirais la FDJ.
Posté le 05/03/2024 à 10h36
Si on voulait démocratiser l'accès à des produits financiers, on organiserait les choses : pédagogie, tutoriels, Mooc, …
Peut-être que toi, tu as le niveau d'apprentissage et le besoin d'avoir un outil boursier dans ta poche pour miser à toute heure de la journée, au boulot (si tant est que tu n'ais pas autre chose à faire), dans le bus ou dans ta voiture (si tant est que tu ne sois pas dans la circulation avec le smartphone en main), etc. Bref, tu vois de la démocratisation là où j'y vois de l'arnaque pour « lapins de 3 semaines », mais « c'est le jeu ma pauvre Lucette », comme dirais la FDJ.
#6
Ce type a le même bagage en IA que la conseillère de l'agence bancaire de détail au coin de ma rue.
#6.1
#6.2
#6.3
Que dit-il de faux, en particulier dans son papier de recherche en lien ?
Sinon, pour répondre un peu à ta question, va lire cette partie de sa fiche Wikipédia.