Quand les scammeurs utilisent les résumés générés par IA de Google pour leurs arnaques

Pour arnaquer des personnes que vous ne connaissez pas, quoi de mieux que de pouvoir modifier les informations qu'elles utilisent pour contacter les services clients d'entreprises avec qui elles ont affaire ?

Depuis des années, Google a habitué les internautes à ne plus passer par des services comme les Pages Jaunes pour trouver le contact des entreprises. Une simple recherche sur l'outil phare de l'entreprise permet soit de trouver la page de contact de l'entreprise, soit même d'afficher directement ses coordonnées en dessus des résultats de recherche.

De malins scammeurs semblent avoir profité de l'intégration dans le moteur de recherche d'Overviews, l'outil qui génère un résumé automatique en haut de chaque résultat de recherche sur Google, pour détourner cette utilisation et arnaquer ces utilisateurs du moteur de recherche. Rappelons que si cette fonctionnalité est disponible dans plus de 200 pays dont 8 pays de l'Union européenne, elle ne l'est pas encore en France.

Overviews reprend des infos sans faire de tri

L'entrepreneur Alex Rivlin a expliqué au Washington Post mais aussi dans une vidéo publiée sur Facebook comment il s'est fait avoir en voulant contacter le service client de la compagnie de croisière Royal Caribbean.

Rivlin explique dans sa vidéo qu'il est, pourtant, plutôt prudent sur le web : « Je ne clique pas sur les liens, je ne donne pas d'informations personnelles par téléphone et je vérifie toujours tout. Mais je me suis quand même fait piéger par une arnaque très sophistiquée, qui a commencé par ce qui semblait être un numéro de téléphone légitime de Royal Caribbean, que j'ai trouvé sur Google ».

Il explique que ce numéro était mis en avant par le résumé généré par Overviews, en haut des résultats du moteur de recherche pour la requête « royal carribean customer service phone number 24 hours usa ».

Il a appelé ce numéro et a été berné par une personne se faisant passer pour un employé de la Royal Carribean. Celle-ci a répondu aux questions qu'il se posait sur le prix d'une navette entre le port et la ville où il allait. Elle a ensuite proposé de ne pas lui faire payer le prix de cette navette en le faisant payer 768 dollars pour ce qu'il pensait être son voyage.

Après avoir repéré le nom étrange de l'entreprise sur ses comptes puis deux débits suspect, l'entrepreneur a finalement compris qu'il s'était fait avoir et a fait opposition sur ces paiements.

Le Washington Post explique que les scammeurs utilisent les sites d'avis en ligne et forums pour diffuser les numéros derrière lesquels ils se cachent et faire croire qu'ils permettent de contacter les services clients des entreprises. Ainsi, les IA comme celles de Google qui sont en permanence à la chasse d'informations se font berner. Overviews n'est d'ailleurs pas le seul outil boosté à l'IA à se faire avoir : notre consœur a pu retrouver le même faux numéro de téléphone dans ChatGPT attribué à d'autres entreprises comme Princess Cruises ou Disney.

Overviews berné par des techniques datant d'il y a 30 ans

Digital Trends a pu constater un autre exemple en testant la recherche du numéro de téléphone du service client de l'entreprise indienne de livraison de repas Swiggy. Le cas de l'arnaque par un scammeur d'une personne âgée indienne avait déjà été relatée par l'Indian Times en 2024. L'entreprise affirme sur une page : « Nous ne disposons d'aucune ligne téléphonique officielle pour le service clientèle. Méfiez-vous des faux numéros ». Mais Digital Trends explique que si le mode IA de Google indique que Swiggy renvoie « principalement » les utilisateurs vers les applications pour résoudre le problème, l'outil ajoute que "certaines sources mentionnent ces numéros comme options de contact du service clientèle de Swiggy" suivi de trois numéros. Digital Trends ne dit pas que ces numéros sont ceux d'arnaqueurs, mais notre confrère montre que la fonction AI Overviews va chercher des numéros qui ne sont pas adéquats.

En répétant un nombre de fois important, un même numéro sur des pages web différentes, les scammeurs peuvent réussir à les insérer facilement dans les réponses des outils d'IA générative.

« Manipuler ces nouveaux moteurs de réponse à l'aide de techniques datant d'il y a 30 ans revient à tirer sur des cibles faciles », estime Mike Blumenthal, analyste chez Near Media, une société spécialisée dans l'étude du comportement des consommateurs en matière de recherche, interrogé par le Washington Post.

Celui-ci a fait réagir Google. L'entreprise a répondu que les résumés IA d'Overviews et les résultats de recherche Web sont efficaces pour diriger les utilisateurs vers les informations officielles du service client pour les types de recherches courants tout en affirmant avoir « pris des mesures » concernant les numéros signalés par notre consœur. Du côté d'OpenAI, l'entreprise explique que beaucoup de pages qui contenaient le numéro problématique ont été supprimées et que les informations relayées par ChatGPT pouvait prendre du temps à être mise à jour « après la suppression du contenu abusif à la source ».

Mike Blumenthal a fait remarquer au Washington Post que Google avait des informations vérifiées sur les entreprises via son Knowledge Graph et que l'entreprise ferait mieux de renvoyer vers celle-ci lorsqu'une recherche sert à trouver des informations de contact.