le plafond de verre ne se situe pas dans l’état de nos recherche

Il nous manque énormément de connaissance sur l’explicabilité des réseaux de neurones, non ?

Il me semblait qu’on évalue ce que sortent les modèles en fonction de l’entrée, mais qu’on est plutôt incapable de comprendre pourquoi ça le sort et que signifient les paramètres des RN, et que c’est des boîtes noires en comparaison d’autres méthodes de machine learning où on sait très bien interpréter les paramètres.

(d’ailleurs pour l’ablitération des LLMs on fait clignoter les zones activées pour savoir quoi modifier, mais on serait à priori complètement incapable de modifier les valeurs à la main sans faire tourner le modèle sur des exemples)

Release the hypnodrones !