L’usage de l’IA au sein d’Anthropic pourrait avoir doublé le rythme de développement de l’IA de l’entreprise, selon un nouveau rapport de l’organisme de recherche à but non lucratif METR.
@metr_evals · Depuis août, une équipe de METR travaille avec des informations internes d’Anthropic pour évaluer si l’IA accélère elle-même le développement de l’IA. Nous publions aujourd’hui un rapport qui résume les résultats de cette évaluation des risques.
Nathan Calvin / @_nathancalvin · Cette mise à jour extrêmement inquiétante de METR sur la RSI me semble être une bonne occasion de faire le point sur les risques catastrophiques liés à l’IA, par rapport à ce à quoi je m’attendais il y a un an : • Les délais avant une RSI complète et des capacités généralement terrifiantes et transformatrices sont plus courts • L’alignement se passe moins bien (même si c’est un peu compliqué : ça pourrait être pire, mais les trucs autour du RLVR et Claude qui rationalise poliment pourquoi l’ingénierie sociale et le téléversement de logiciels malveillants sont acceptables, c’est extrêmement flippant) • La volonté politique et l’attention accordée au sujet sont plus fortes (mais pas beaucoup) [...]
Jake Mendel / @jakemendel99 · J’ai toujours estimé des délais nettement plus longs que mes amis chez Anthropic — je crains qu’ils ne soient dans une chambre d’écho, qu’ils ne croient trop au battage médiatique autour de leurs propres modèles et qu’ils ne sous-estiment les goulets d’étranglement et les inconnues inconnues. Et il y a assurément eu des occasions précises...
Nathan Lambert / @natolambert · À mon avis, le manque de benchmarks suffisamment bons constitue un goulet d’étranglement. Du moins pour le type de RSI décrit comme une explosion d’intelligence. On peut utiliser les benchmarks existants pour rendre les modèles beaucoup moins chers, ceci dit.
Martin Varsavsky / @martinvars · @Techmeme Ce qui me frappe le plus dans le rapport de METR, c’est la source de cette accélération. METR l’attribue en grande partie aux chercheurs d’Anthropic eux-mêmes, qui utilisent leurs modèles dans leur travail quotidien de R&D, principalement comme assistants, et se dit convaincu que l’accélération n’est pas due à une mise à l’échelle plus rapide de la puissance de calcul. On peut s’attendre au même phénomène en biologie et en médecine : les laboratoires qui intègrent l’IA à leur travail quotidien progresseront le plus vite, et de manière exponentielle.
Casey Newton / @caseynewton · « Nous avons soumis à Anthropic un rapport d’évaluation complet d’environ 100 pages. Dans la version publique, Anthropic a occulté la majorité des éléments que nous jugions les plus instructifs. Par conséquent, le public doit davantage se fier à notre jugement que nous ne le souhaiterions. » ☹️
Elie / @eliebakouch · Je pense qu’il est clair que le rôle de l’IA dans la R&D en IA est passé du codage autonome à l’expérimentation autonome, ce qui a réduit énormément le temps nécessaire pour expérimenter. D’après les entretiens que j’ai vus, nous n’en sommes pas encore au stade où les modèles servent aussi à générer de manière autonome de nouvelles idées de recherche. Le gros problème, c’est qu’ils ne publient aucun indicateur qui nous permettrait de quantifier cela, ni dans ce rapport ni dans une fiche système..
Garrison Lovely / @garrisonlovely · Dario Amodei a défendu l’idée de « ralentir le rythme à la frontière », mais le dossier d’introduction en Bourse d’Anthropic montre que l’entreprise ne le fait pas vraiment. Au contraire, Anthropic accélère comme jamais, selon ce nouveau rapport de METR. Et Anthropic a caviardé les passages les plus importants. Le rapport complet serait un bon candidat pour une citation à comparaître demandée par les démocrates au Congrès.
Andrew Curran / @andrewcurran_ · Selon METR, Anthropic a probablement atteint le seuil d’accélération de 2× de sa Responsible Scaling Policy, et pourrait désormais atteindre 3× ! « Nous estimons que la majorité (peut-être ≈ 80 %) de l’accélération actuelle (octobre 2026) est due à l’IA. »
Zvi Mowshowitz / @thezvi · J’ai l’impression de n’avoir cessé de le dire, et que les gens n’ont cessé de me répondre qu’il était trop tôt et que je surinterprétais les choses, alors que tout ça semblait assez évident.
@metr_evals · Anthropic a partagé de nombreux éléments sur l’ensemble de sa chaîne de R&D en IA, du préentraînement au RL, avec notamment des détails clés comme des estimations des progrès algorithmiques au fil du temps. Nous avons trouvé ces informations non publiques très instructives pour évaluer l’accélération de la R&D en IA.
Parv Mahajan / @parvmahajan0 · Anthropic a caviardé la plupart des éléments importants utilisés par METR, y compris une partie de notre méthodologie, au motif qu’il s’agissait d’« informations confidentielles susceptibles d’accélérer le développement d’autres acteurs de l’IA ». Cela empêche toute analyse open source et contraint le public à se fier davantage à METR qu’il ne serait souhaitable.
@metr_evals · Nous avons examiné la section « Risques liés à la R&D automatisée » du rapport de risque d’Anthropic d’août 2026, en ayant accès à la version non publique. Nous nous sommes concentrés sur les affirmations du rapport concernant les risques catastrophiques liés à la R&D automatisée en IA et sur la question de savoir si Anthropic avait franchi des seuils de capacités pertinents.
@scaling01 · PUTAIN, ENFIN des infos sur les modèles internes d’Anthropic : le modèle 4 a terminé son entraînement en octobre 2026 et obtient 178,6 à l’Anthropic ECI, soit 4 points AECI de plus qu’Opus 5.5, ou environ 3 mois de progrès à la frontière
Prinz / @deredleritt3r · Le rapport de METR contient une foule de détails sur les modèles internes d’Anthropic, notamment « Model 4 » …
Sam McCandlish / @sam_mccandlish · Je m’appelle Sam, je suis l’un des cofondateurs d’Anthropic et je dirige une grande partie de nos travaux sur la sécurité. J’aurai davantage à partager sur ces travaux au cours des prochains mois. Je voulais commencer par quelques réflexions sur le dernier rapport de @METR_Evals. La vitesse de progression des capacités des modèles est l’une des questions les plus importantes en matière de sécurité de l’IA, et le travail de METR sur ce sujet offre au public un regard indépendant et extérieur sur ce qui se passe chez Anthropic. Je reviendrai plus en détail sur certains points ci-dessous, mais commençons par donner un peu de contexte à ceux qui découvrent ces travaux. L’accélération des progrès de l’IA a de nombreuses implications importantes pour la sécurité, puisqu’elle détermine à quelle vitesse les risques liés aux modèles avancés augmentent [...]