Petite histoire du CAPTCHA : création, évolutions et dérives

Le CAPTCHA est un élément courant de la navigation sur le web, surtout des formulaires d’inscription. Ce mécanisme de sécurité est né il y a une vingtaine d’années et a eu le temps d’agacer plus d’une personne. Voici son histoire.

CAPTCHA signifie « Completely Automated Public Turing test to tell Computers and Humans Apart », soit en français « test de Turing totalement automatisé et public pour distinguer les ordinateurs des humains ». L’acronyme est le plus souvent utilisé pour décrire la petite énigme à résoudre, mais le terme désigne plus que cela : c’est toute la chaine de récupération et de la transmission de l’information.

L’idée d’un tel test est née à la fin des années 90 avec le besoin de pouvoir séparer rapidement les êtres humains des machines, pour contrôler certains accès, notamment les inscriptions à des services en ligne. Les premières réalisations se font au début des années 2000 à l’université Carnegie-Mellon. Le terme même de CAPTCHA est une marque déposée lui appartenant et n’est donc pas un simple acronyme. Et ce, même si AltaVista avait fait quelques essais dans le domaine, mais sans véritablement les pousser sous une forme exploitable.

C’est donc à Carnegie-Mellon que l’on doit la concrétisation de ce test, plus précisément à quatre personnes : Luis von Ahn, Manuel Blum et Nicholas J. Hopper, aidés par l’ingénieur John Langford d’IBM.

Ce test devait présenter dès le départ deux caractéristiques essentielles et liées : être à la fois très simple pour l’être humain et complexe pour la machine. Tout était ainsi question de cognition et de reconnaissance automatisée des caractères. Du moins au début.

Le CAPTCHA en pratique

Tout le monde a déjà croisé la route de ces tests automatisés. Derrière cette apparente simplicité se cache un processus complexe regroupant aussi bien la génération de l’énigme que le mécanisme de validation de la réponse, en passant par le protocole de transmission.

Les énigmes proposées ont évolué avec le temps. Il ne s’agissait au départ que de très simples opérations mathématiques comme « 3 + 5 = ? ». Puis les séquences de caractères sont arrivées, d’abord peu déformés, puis des altérations de plus en plus prononcées sont apparues, au point parfois de poser autant de problèmes aux êtres humains qu’aux systèmes de reconnaissance. Les opérations mathématiques sont elles aussi apparues rapidement, là encore sous une forme simple, puis avec certaines déformations, dans l’idée de jouer sur les deux tableaux cognitifs.

Outre l’idée générale d’empêcher l’inscription automatisée à des sites et services, l’un des points forts du CAPTCHA est qu’il s’exécute localement, donc sur l’appareil de l’utilisateur. Ce qui signifie que la résolution du problème n’interroge pas le serveur : la réponse est déjà comparée sur place, et c’est seulement en cas de réponse correcte qu’un signal est envoyé. Un processus destiné à empêcher que des bots bombardent des serveurs de requêtes, ce qui aurait raboté l’intérêt du CAPTCHA.

Cette exécution locale permet en pratique de bloquer de nombreuses tentatives. Les webmails comme Gmail et Outlook s’en servent bien sûr pour éviter les créations de comptes à la chaine. On peut généraliser ce besoin de barrière à l’ensemble des services devant bloquer un accès automatisé, pour bloquer – tout du moins en théorie – les participations à des sondages, des téléchargements massifs, la publication de messages, etc. C’est un problème que l’on retrouve par exemple de manière très présente sur Twitter/X, sur lequel de nombreux bots sévissent.

Des chats, des souris, des dérives

Comme tout mécanisme de sécurité, le CAPTCHA est plongé dans un jeu permanent du chat et de la souris. La situation est comparable aux antivirus : les technologies et méthodes évoluant sans cesse, la contre-mesure doit s’adapter.

Les premières versions étaient simples, mais puisque la reconnaissance des caractères progressait, il a bien fallu rendre les choses progressivement plus complexes. Déformer légèrement le texte n’était plus suffisant et, avec le temps, d’autres altérations sont apparues, notamment le flou, le texte barré ou avec différents artefacts censés toujours permettre une identification « simple » par l’œil et le cerveau humains, tout en rendant très complexe la reconnaissance automatique.

Seulement voilà, la situation est doublement complexe. D’une part, les personnes ne sont pas toutes égales devant de tels mécanismes. Rapidement, des voix se sont élevées pour signaler de vrais problèmes d’accessibilité, notamment pour toutes les personnes malvoyantes, pour lesquels ces CAPTCHA étaient autant de barrières. C’est ainsi que l’on a vu arriver progressivement des fonctions permettant de dicter le texte à l’oral, quand cela est possible. Ces fonctions accompagnent les CAPTCHA et sont nécessairement développées par les sociétés concernées, les lecteurs d’écrans classiques ne pouvant pas lire le texte (le but d’un CAPTCHA étant de ne pas être lisible automatiquement, justement).

En dépit de quelques améliorations en matière d’accessibilité, le CAPTCHA est par essence excluant, dès lors que des déficiences visuelles et auditives sont en jeu. Le problème est accentué par les tests utilisant des images. Sans aide extérieure, les personnes concernées ne peuvent tout simplement pas s’inscrire d’elles-mêmes sur les services utilisant ce type de protection. En 2005, le W3C consacrait déjà une publication à cette problématique.

D’autre part, la complexité croissante des CAPTCHA a fini par poser problème aux internautes sans ces déficiences, tout en n’empêchant pas les technologies de reconnaissance de progresser suffisamment pour arriver à percer leurs mystères. C’est particulièrement vrai depuis que cette reconnaissance a été dopée au machine learning, comme le relatait en 2017 The Independant, qui pointait alors que certaines IA étaient capables de passer à travers les CAPTCHA sans avoir besoin d’un grand entrainement.

La société Vicarious avait ainsi bâti un modèle – nommé Recursive Cortical Network (RCN) – capable de reconnaître l’écriture dans 66,6 % des cas pour reCAPTCHA, 64,4 % pour BotDetect, 57,4 % pour Yahoo, 57,1 % pour PayPal, etc. La société indiquait même alors que ces chiffres pouvaient grimper à 90 % avec un peu plus d’entrainement. 

En parallèle, la situation évoluait cependant. À la même époque, une part grandissante des CAPTCHA de Google ne faisaient déjà plus appel à la reconnaissance visuelle ou auditive : il s’agissait d’une simple case à cocher. Le système ne tablait plus sur les opérations cognitives mais s’alimentait à d’autres signaux provoqués par le comportement de l’internaute sur la page.

Google n’a jamais vraiment expliqué sa technologie. Tout juste savait-on que certains éléments étaient pris en compte, comme les mouvements de la souris, les cookies et paramètres du navigateur, etc.  La case à cocher s’est amplement répandue depuis et constitue l’essentiel de l’expérience CAPTCHA aujourd’hui. Parfois, elle n’est pas suffisante, et l’internaute voit alors surgir une image découpée dans laquelle il faut reconnaître des objets.

Notez que Google n’est pas seul dans le domaine des CAPTCHA « avancés ». La concurrence s’est étoffée, avec par exemple hCaptcha, qui propose le même type de service tout en se voulant plus respectueux de la vie privée. hCaptcha s’appuie sur la case à cocher, qui vient valider les actions déjà effectuées sur la ou les pages par le visiteur, le cadre posant également une question très simple, du type « Votre légume préféré ». Il n’y a pas de mauvaise réponse bien sûr, la question n’est là que pour collecter une interaction active.

Les CAPTCHA invisibles et la tentation de Google

En 2017, Google est même passée à la vitesse supérieure : un CAPTCHA automatique, sans case à cocher, sans puzzle à résoudre et se basant uniquement sur les signaux émis par la personne sur la page en question, donc ses manipulations. Un CAPTCHA invisible, en somme.

Même encore aujourd’hui, on ne voit pas toujours ce CAPTCHA invisible, dont le fonctionnement technique n’est pas davantage précisé. On retrouve donc parfois la case à cocher ou même la fameuse image découpée, probablement quand le système automatique ne possède pas un historique de signaux assez important. La vidéo de présentation indiquait que le mécanisme devait être largement déployé au sein d’un site, pour améliorer la surveillance de l’internaute et lui attribuer une note de confiance, allant de 0 à 1.

Idéalement, Google aimerait parvenir à un système universel et invisible pouvant témoigner de la chaine d’authenticité d’une action humaine à travers un navigateur non modifié. On a pu voir récemment qu’un petit groupe d’ingénieurs travaillait sur une technologie baptisée Web Environment Integrity qui, si elle n’est pas directement liée aux CAPTCHA, pourrait les accompagner.

• Web Environment Integrity : chez Google, l'ombre d'un DRM pour le web
• Web Environment Integrity : défiance généralisée contre le « DRM du web »

Rappelons que WEI fonctionne sur le modèle de l’API Play Integrity sur Android. Cette dernière est chargée de témoigner à qui veut bien l’entendre qu’une application n’a pas été modifiée. Les éditeurs d’applications ont le choix de l’activer et certains l’ont fait, notamment les banques, Netflix et la plupart des studios derrière les jeux en ligne.

La notion d’authenticité est au cœur du projet, dont on ne sait pas encore si Google a réellement l’intention de le déployer. En cela, WEI rejoint le CAPTCHA entièrement automatique de Google. L’un et l’autre pourraient s’associer – voire se compléter – pour établir une chaine de « confiance » pour le service auquel on demande l’accès. WEI pourrait ainsi renforcer la sécurité du CAPTCHA en apportant une garantie supplémentaire qu’une personne physique est bien en train d’ouvrir une page.

Seulement, comme on l’a vu, la technologie pourrait être aisément détournée pour d’autres ambitions plus vastes. Le risque le plus manifeste serait que Google détermine qui pourrait accéder à ses services, très largement utilisés, à travers des conditions à respecter. Certaines extensions, déjà menacées par le Manifest v3, pourraient ne plus avoir leur mot à dire.

Les CAPTCHA détournés pour nourrir les IA

Vous ne le savez peut-être pas, mais les CAPTCHA ont pendant un temps été sous le feu de critiques nourries, pour autre chose que leur degré croissant de complexité. Certaines personnes ont accusé des entreprises, Google en tête, d’utiliser les réponses données par les internautes pour améliorer les résultats de certains modèles de reconnaissance.

Google a été accusée de ce stratagème à plusieurs reprises, dont deux principalement. D’abord en 2009, quand Google rachète reCAPTCHA, un mécanisme beaucoup plus avancé que ce que la firme proposait jusqu’alors.

Largement popularisé dans les années qui suivent, la fenêtre de vérification affichait deux mots barrés et dont la géométrie était légèrement altérée (le plus souvent sous forme d’une ondulation). Des altérations suffisantes pour tromper les solutions de reconnaissance d’écriture, mais beaucoup plus simple pour un être humain.

Or, sur les deux mots, seul le premier servait vraiment à valider le CAPTCHA. L’autre était utilisé pour alimenter le service Google Books, alors en pleine numérisation de l’intégralité des articles du New York Times. Comment ? En fournissant une aide directe sur la reconnaissance des mots issus de livres en cours de numérisation, car même si un modèle est capable de reconnaitre la plupart des mots, la validation humaine reste déterminante. Et si le processus passe à une échelle quasi industrielle en faisant valider des mots par des millions de personnes (200 millions par jour en 2006), l’aide devient particulièrement précise. Particulièrement quand on peut pousser en avant les mots mal scannés ou non reconnus.

C’était d’ailleurs le sens de la plainte qui avait alors été déposée contre Google par Gabriela Rojas-Lozano. Elle avait tenté en 2015 de déclencher un recours collectif (class action) contre la firme, en mettant en avant le fait qu’elle employait une main-d’œuvre sans la payer, par des moyens détournés. Le 3 février 2016 cependant, la justice américaine a rejeté la plainte par manque de preuves, Google ne s’étant par ailleurs pas cachée de ses intentions.

Le même processus avait été appliqué à Street View, grâce – vous l’aurez deviné – à la fameuse petite grille d’images que Google propose parfois, quand la case à cocher n’est pas suffisante pour une raison ou une autre. Dans ces images, il est demandé à l’internaute de reconnaitre un objet particulier dans une photo coupée en neuf ou seize parties. Par exemple, les feux de signalisation, les passages cloutés, un certain type de véhicule, un animal etc. Chaque fois que l’on répond à ce type de CAPTCHA, il s’agit d’une validation humaine sur des objets présélectionnés comme étant les bons par une IA de reconnaissance d’image.

Une simple protection supplémentaire

Aujourd’hui, les CAPTCHA restent très utilisés, mais ne représentent pas l’alpha et l’oméga de la protection d’un accès. Ils ont leur efficacité et peuvent effectivement bloquer une partie plus ou moins importante des requêtes des bots, mais les résultats sont variables et aucune entreprise n’est transparente sur ce point. Google, par exemple, indique simplement bloquer des accès aux bots des dizaines de millions de fois par jour sur les formulaires.

On sait en revanche que les CAPTCHA peuvent être contournés et détournés. Déjà, pendant les premières années à l’université de Carnegie-Mellon, un petit groupe avait été créé pour tenter de casser systématiquement les CAPTCHA créés. Un des moyens utilisés était de détourner le CAPTCHA du site qu’il était censé protéger pour le placarder sur un site pornographique. Les visiteurs de ce dernier résolvaient ainsi, sans le savoir, un CAPTCHA destiné à un autre accès.

La résolution des CAPTCHA est même devenue avec le temps une industrie à part entière. En 2008, ZDNet relatait par exemple déjà comment tout un pan d’activité s’était créé en Inde dans ce but : des hordes d’employés étaient rémunérés – une misère – pour résoudre des CAPTCHA toute la journée. Dans ce type de cas, peu de protections peuvent fonctionner, même si les évolutions techniques, notamment chez Google, ont en partie résolu ce problème, la constitution d’une vaste base de données pour les réponses ne pouvant plus être utilisée pour contrecarrer la collecte de signaux. Mais même ce modèle de résolution humaine ne tient plus face à l'évolution de l'IA et des bots, comme nous le relations il y a quelques semaines : les humains sont désormais plus lents.

Enfin, faisons une petite digression sur le terme CAPTCHA lui-même. Un test de Turing consiste théoriquement à vérifier la capacité d’une machine à se faire passer pour un être humain : lors d’un test à l’aveugle, si une personne n’est pas capable de dire si les réponses reçues sont celles d’une autre personne ou d’une machine, celle-ci a passé le test. De son côté, le CAPTCHA demande à un être humain de prouver qu’il est ce qu’il prétend être. Il ne s’agit donc pas d’un test de Turing, en dépit du nom qui lui a été donné.