Édition du jeudi 15 octobre 2026
Un chercheur affirme que les réseaux neuronaux modernes sont bien plus interprétables qu’on ne le pensait, et que la plupart des neurones sont compréhensibles dans des modèles comptant jusqu’à des milliers de milliards de paramètres
Lire l’article original sur Goodfire →
La cause de la poly-sémanticité dans les premiers modèles étudiés n’était pas la superposition, mais plusieurs problèmes ordinaires, pour la plupart faciles à corriger.
A researcher says modern neural networks are far more interpretable than believed, with most neurons understandable in models up to trillions of parameters
The cause of polysemanticity in early model organisms wasn't superposition, but several ordinary, mostly fixable issues.