On dispose aujourd’hui d’algorithmes performants pour reconnaître des objets ou concepts dans des tâches précises comme des voitures dans des photos ou vidéos. On crée pour cela des modèles que l’on entraîne dans des réseaux neuronaux.

Mais si l’on dispose par exemple d’un bon algorithme pour trouver des véhicules dans des images, il en faudra un autre pour détecter que l’on parle d’un tel objet dans une conversation.

Une équipe de Meta AI (nouveau nom de Facebook AI Research) annonce donc Data2vec. Ce nouvel algorithme réussirait plusieurs tours de force, notamment être aussi à l’aise avec les images qu’avec la voix et le texte, mais aussi afficher des performances aussi bonnes – sinon plus – que les algorithmes et modèles dédiés. Le tout, sans avoir besoin de données labellisées.

Meta parle d’apprentissage auto-supervisé (on n’est pas encore sur de l’apprentissage non supervisé), qui n’est d’ailleurs pas de son invention. Il se base sur les récents progrès de modèles comme GPT-3, déjà conçus pour traiter des données sans étiquettes. Michael Auli, l’un des chercheurs, précise que l’idée est venue après s’être rendu compte que toutes les recherches dans le domaine utilisaient des techniques différentes pour atteindre le même but.

La « magie » s’opère via deux réseaux neuronaux : l’un professeur, l’autre étudiant. Le professeur est entraîné de manière classique sur des images, textes et sons. L’étudiant, lui, est entraîné à une tâche unique : prédire la représentation interne du professeur. Dans le cas d’un chien, il aboutirait à la même « image mentale » quand le professeur voit une photo d’un labrador ou reconnaît un aboiement.

Une publication scientifique a été mise en ligne ici, tandis que data2vec est disponible sur GitHub, avec des modèles pré-entraînés pour le texte et l’audio, ceux pour les images arriveront prochainement. 

Pour Meta AI, il s’agit d’une première étape : « Cela ouvre la voie à un apprentissage auto-supervisé plus général et nous rapproche d’un monde où l’IA pourrait utiliser des vidéos, des articles et des enregistrements audio pour en apprendre davantage sur des sujets compliqués, tels que le football ou différentes façons de cuire du pain ». 

« Nous espérons également que data2vec nous rapprochera d’un monde où les ordinateurs ont besoin de très peu de données étiquetées pour accomplir des tâches », ajoute le réseau social.

Tout est parti d’un mémo de Bill Gates aux employés en janvier 2002. La société devait prendre un virage résolument axé sur la sécurité, qu’il ne fallait plus considérer comme une simple couche supplémentaire.

Dans un billet, l’entreprise revient sur la genèse de ce mémo et les personnes impliquées. Michael Howard et David LeBlanc tout particulièrement, deux spécialistes de la sécurité à qui de nombreux développeurs posaient des questions au sein de Microsoft.

En 2001, ils écrivirent un livre, Writing Secure Code, enrichi par les dures leçons imposées par les vers CodeRed et Nimda. L’équipe chargée du compilateur C++ se demanda alors s’il n’était pas possible d’ajouter directement des défenses dans le code compilé et Microsoft Research commença un travail sur des outils d’analyse.

Lorsque le livre sortit en décembre 2001, Michael Howard fit une présentation avec Bill Gates sur les vulnérabilités. Il lui remit à cette occasion une copie du livre, que Gates aurait particulièrement apprécié.

Ce travail avait en fait créé des remous dans la société. Un programme plus large était en préparation et fut officialisé quelques jours plus tard par Craig Mundie. Le mémo Trustworthy Computing de Gates fut envoyé peu de temps après.

C’est ce mouvement qui avait d’ailleurs entraîné à l’époque le retard de Vista, l’équipe de Windows travaillant alors sur le Service Pack 2 de Windows XP, qui dotait pour la première fois un Windows d’un pare-feu intégré.

Aujourd’hui, la division Trustworthy Computing n’existe plus en tant que telle. Elle a été supprimée en 2014, Microsoft estimant que son travail était terminé. Les connaissances accumulées étaient diffusées et d’autres initiatives avaient été prises entre temps, notamment le Security Development Lifecycle, toujours un élément central de sécurité aujourd’hui.

Le Microsoft Security Response Center (MSRC) concentre aujourd’hui les efforts de sécurité dans l’entreprise. Lui aussi a été créé il y a presque 20 ans. Il « travaille avec des milliers de chercheurs et professionnels internes et externes pour corriger rapidement les failles dans les produits commercialisés ».

Le billet contient plusieurs anecdotes intéressantes de personnes impliquées dans ces projets durant les deux dernières décennies.

Il a pour rappel décollé le jour de Noël, avec succès et un lancement aux petits oignons d’Ariane 5. Il suit depuis son petit bonhomme de chemin avec le déploiement de ses miroirs, là encore sans encombre.

Il a désormais parcouru plus de 1,45 million de kilomètres et se trouve à moins de 8 000 km du point de Lagrange L2… une broutille dans l’immensité de l’espace. Pour simplifier, il a déjà parcouru 99,5 % de son voyage. Sa vitesse actuelle est de 720 km/h.

Une fois les dernières vérifications effectuées, il sera temps de lancer la machine scientifique. Le bouclier thermique joue parfaitement son rôle puisque la partie « froide » du télescope est en dessous des - 200 °C pour le moment.

• James Webb Space Telescope : 30 ans plus tard, enfin le lancement et le délicat déploiement
• Suivre toutes les données de James Webb

Dans son Journal, le Centre national pour la recherche scientifique explique que « des spécialistes des neurosciences viennent de montrer qu’utiliser un outil et manier des phrases à la syntaxe complexe faisaient appel à des réseaux cérébraux communs. Mieux : entraîner l’une de ces compétences permet d’améliorer l’autre ».

« Quand on manipule un outil, on l’incorpore comme une partie du corps dans le programme moteur de la même façon qu’on incorpore une proposition relative dans une phrase simple », explique Véronique Boulenger, chercheuse CNRS en neurosciences cognitives au laboratoire Dynamique du langage (DDL).

« La construction devrait commencer à la fin de 2022 et la production sera mise en service à partir de fin 2025 », explique le fondeur dans un communiqué. 3 000 embauches sont prévues.

« Les actions d’Intel vont aider à bâtir une chaîne d’approvisionnement plus résiliente et garantir un accès fiable à des semi-conducteurs de pointe dans les années à venir », explique Pat Gelsinger.

« Cet investissement est une immense victoire pour Intel, pour l’industrie américaine et pour les consommateurs américains, qui peuvent s’attendre à des prix plus bas au moment où nous faisons revenir à domicile la production des semi-conducteurs qui font tourner notre économie », indique la secrétaire au Commerce, Gina Raimondo.

Joe Biden a pour rappel lancé un plan de 2 000 milliards de dollars d’investissements publics dans les « infrastructures » au sens large du terme, dont 50 milliards pour la fabrication de semi-conducteurs. C’est d’ailleurs dans ce cadre qu’Intel avait annoncé deux nouvelles « fabs » en Arizona en mars dernier.

• IDM 2.0 : Intel veut devenir un fondeur comme les autres (mais souverain)

« L’annonce d’Intel dans l’Ohio précède par ailleurs une décision très attendue du groupe californien, qui devrait révéler dans les prochaines semaines le site qu’il a retenu en Europe pour implanter une usine de semi-conducteurs de pointe, l’Allemagne faisant figure de grande favorite », ajoute l’AFP.

Les gouvernements des deux côtés de l’Atlantique souhaitent renforcer leur autonomie dans le petit monde des semi-conducteurs. Un enjeu autant stratégique que souverain alors que le monde fait face à une pénurie et une dépendance à l’Asie pour son approvisionnement.

• Semi-conducteurs : l’Europe veut « quadrupler la production », une législation en février

Ils sont placés sur une orbite géosynchrone à 36 000 km d’altitude, avec pour mission officielle de suivre et caractériser plus précisément les « objets en orbite fabriqués par l'homme ».

Les deux satellites jumeaux sont baptisés GSSAP-5 et GSSAP-6. Ils ont été placés en orbite à bord d’une fusée Atlas V de l’United Launch Alliance (ULA). Le détail de la mission se trouve par ici.

« Le président de la République annonce qu’il propose de nommer Antoine Petit en qualité de président-directeur général du CNRS, pour un second mandat », explique le CNRS.

Le Centre pense que cette proposition devrait « recueillir un avis favorable du Parlement ». Antoine Petit sera prochainement auditionné par des commissions de l’Assemblée nationale et du Sénat avant de valider sa nomination.

Il est arrivé à ce poste début 2018 pour prendre la suite d’Anne Peyroche. Le mandat actuel d’Antoine Petit arrive à son terme le 24 janvier 2022, « il exercera la fonction de président-directeur général par intérim de l’organisme à compter du 25 janvier 2022 et assurera l’ensemble des attributions inhérentes à cette fonction ».

• Intégrité, méconduite et fraude scientifique : bilan et propositions du long rapport parlementaire
• Pour les 80 ans du CNRS, une croisière sur le « navire amiral de la recherche française »