Alors que l’attention s’est largement portée sur les données financières actualisées dévoilées lundi par Anthropic dans la nouvelle version de son S-1A…
David Iach / @davidiach · Deux ans de progrès condensés en un, c’est une définition très laxiste de la RSI. Les progrès iront beaucoup plus vite s’il s’agit vraiment de RSI. Il est très probable que les modèles découvriront immédiatement de nombreuses améliorations qui ne sont pas intuitives pour les chercheurs humains, mais qui s’accumuleront néanmoins et mèneront à...
@kimmonismus · Anthropic affirme que ses estimations et prévisions internes concernant les futurs modèles suggèrent qu’elle pourrait bientôt atteindre son seuil d’accélération spectaculaire des progrès de l’IA provoquée par l’IA elle-même.
Ramez Naam / @ramez · Ce graphique montre que, jusqu’à présent, 0 % de la recherche en IA chez Anthropic se déroule de manière autonome. Ce n’est pas le signe d’une ASI imminente hors de contrôle, comme je l’ai clairement expliqué ici. https://www.rameznaam.com/... [publication citée]
@choblin29 · INCROYABLE : dans son S1 mis à jour, Anthropic affirme que les futurs modèles pourraient bientôt atteindre un seuil où la R&D pilotée par l’IA doublerait le rythme des progrès de l’IA. L’entreprise admet aussi avoir précédemment manqué une accélération importante jusqu’à ce qu’elle se produise. Elle envisage désormais d’exiger une approbation humaine pour certaines activités de R&D en IA…
Nathan Calvin / @_nathancalvin · C’est extrêmement frappant. Anthropic et les autres entreprises d’IA feraient bien de communiquer directement ces allocations et d’augmenter progressivement la part consacrée à la sûreté + à la sécurité (p. ex. classificateurs, surveillance) + à l’inférence externe, tout en réduisant celle consacrée à la course vers la RSI.
