Connexion Premium

Robots.txt : Google publie les sources de nouveaux outils

Robots.txt : Google publie les sources de nouveaux outils

L’année dernière, à l’occasion des 25 ans de ce fichier important pour les sites et moteurs de recherche, c’était déjà le cas du parser C++ utilisé par l’entreprise.

Il passait alors sous licence Apache 2.0, le Robots Exclusion Protocol (REP) faisant l’objet d’une proposition à l’IETF. Aujourd’hui, on apprend la publication des sources d’un framework de test.

Le parser est également diffusé dans une version Java par Google, des développeurs non affiliés au géant américain ayant pour leur part créé des implémentations en Go et Rust.

Commentaires (0)