Édition du mercredi 9 septembre 2026
Analyse : de 2019 à 2025, les gains d’efficacité du calcul de préentraînement proviennent surtout des améliorations des données plutôt que des modèles
Lire l’article original sur Dwarkesh Podcast →
Décomposition de six ans de progrès du préentraînement entre améliorations des données et des modèles — quelle part des progrès rapides de l’IA observés ces dernières années 1…
Analysis: from 2019 to 2025, gains in pretraining compute efficiency came mostly from data improvements rather than model improvements
Breaking down 6 years of pretraining progress into data vs model improvements — How much of the rapid progress in AI that we've seen over the last few years 1…