Généalogie des modèles d’IA ouverts : la CNIL propose un outil pour s’y retrouver
« Kimi K3 GGUF, je suis ton père ! »
Illustration : Flock
Le 03 septembre à 12h02
Hugging Face déborde de modèles d’IA générative. Mais il est facile de se perdre dans les méandres de tous les modèles ouverts. La CNIL propose un outil permettant de s’y retrouver.
Généalogie des modèles d’IA ouverts : la CNIL propose un outil pour s’y retrouver
« Kimi K3 GGUF, je suis ton père ! »
Illustration : Flock
Hugging Face déborde de modèles d’IA générative. Mais il est facile de se perdre dans les méandres de tous les modèles ouverts. La CNIL propose un outil permettant de s’y retrouver.
IA et algorithmes
IA
4 min
Si on veut utiliser un modèle d’IA générative pour un projet, le premier réflexe peut être d’aller sur Hugging Face. Mais là, difficile de s’y retrouver dans les 2 millions de modèles publiés et de savoir quels sont les dérivés des principaux connus. En effet, souvent l’idée n’est pas d’utiliser le modèle d’origine mais de trouver celui qui a été le plus adapté (par inférence, par exemple) à l’utilisation qu’on veut en faire.
Le LINC (Laboratoire d’innnovation numérique de la CNIL) a créé un outil qui permet de s’y retrouver. Appelé Genmod ou « Généalogie des modèles », il a été présenté l’année dernière par les chercheurs de l’autorité de protection des données, mais son interface était jusque-là assez récalcitrante. Un effort a été fait depuis et une nouvelle version est maintenant utilisable.
Inspecter la descendance d’un modèle
On peut, par exemple, aller inspecter la descendance du modèle Kimi K3 de Moonshot AI.
- T@LC : on a voulu tester Kimi K3 (1 562 Go) en « local », on a failli finir ruinés
- Kimi K3 : ce qu’il faut savoir du modèle open source de 2 800 milliards de paramètres
Petite précision, le moteur de recherche de l’outil est encore difficile à utiliser. Pour chercher Kimi K3, mieux vaut d’abord taper le nom du dépôt de l’entreprise éditrice moonshotai/ puis taper les premières lettres du modèle. On peut ainsi trouver moonshotai/Kimi-K3 et afficher les « modèles importants » de sa descendance (de la même façon, pour qwen3.8, il faut taper qwen/qwen3 pour se voir proposer le modèle) :

En cliquant sur « Voir l’arbre généalogique », on obtient la liste de tous les modèles qui en découlent avec des précisions sur la méthode qui a permis la dérivation.

On peut ainsi observer que le modèle « unsloth/Kimi-K3-GGUF » est un dérivé de Kimi-K3. L’outil précise qu’il a été spécialisé pour de l’ « Image-Text-to-Text » en utilisant la quantisation (comme le précise l’outil, cette méthode réduit la précision des poids du modèle source « afin de diminuer son empreinte en mémoire »). On peut voir qu’à son tour ce modèle a été dérivé pour en donner d’autres.
On peut aussi faire une « recherche experte » qui permet de sélectionner les critères qui nous intéressent :

Retrouver les différentes utilisations d’un jeu de données
L’outil permet aussi de faire la généalogie de l’utilisation des jeux de données. En effet, les chercheurs de la CNIL ont créé Genmod avant tout pour la traçabilité. On peut donc retrouver tous les modèles qui utilisent le jeu de données The Cauldron, par exemple (de la même façon, mieux vaut connaître d’abord le nom du dépôt racine, ici « HuggingFaceM4/ »).
Dans leur article de présentation de l’outil, les chercheurs du LINC posaient en exemple cette question : « Dans le cas où les données à caractère personnelle d’un individu seraient mémorisées par un modèle, comment est-il possible d’identifier les modèles par lesquels ces données seraient également susceptibles d’être mémorisées ? ». L’idée est de pouvoir retrouver les modèles susceptibles de régurgiter les mêmes données sur lesquelles ils ont été entraînés. Rappelons que les modèles d’IA générative sont aussi soumis au RGPD.
Cela peut aussi être utile, par exemple, dans le cas d’accusations de régurgitations de contenus sous copyright, comme il est question dans le procès entre le New York Times et OpenAI.
Commentaires (0)
Abonnez-vous pour prendre part au débat
Déjà abonné ou lecteur ? Se connecter
Cet article est en accès libre, mais il est le produit d'une rédaction qui ne travaille que pour ses lecteurs, sur un média sans pub et sans tracker. Soutenez le journalisme tech de qualité en vous abonnant.
Accédez en illimité aux articles d'un média expert
Profitez d'au moins 1 To de stockage pour vos sauvegardes
Intégrez la communauté et prenez part aux débats
Partagez des articles premium à vos contacts
Abonnez-vousSignaler un commentaire
Voulez-vous vraiment signaler ce commentaire ?