Les investisseurs institutionnels qui prévoient d’acheter des actions lors de l’introduction en Bourse s’inquiètent après une chute des valeurs technologiques.
David Iach / @davidiach · Deux ans de progrès condensés en un, c’est une définition très laxiste de la RSI. Les progrès iront beaucoup plus vite s’il s’agit vraiment de RSI. Il est très probable que les modèles découvriront immédiatement de nombreuses améliorations qui ne sont pas intuitives pour les chercheurs humains, mais qui s’accumuleront néanmoins et mèneront à...
Andrew Curran / @andrewcurran_ · Un nouveau texte ajouté ce matin à la page 29 du S-1/A d’Anthropic indique que, selon ses estimations internes, l’entreprise pourrait bientôt atteindre le seuil de danger RSI correspondant à une « accélération spectaculaire des progrès attribuable à l’IA » — soit autant de progrès en un an qu’en deux ans selon la référence de 2018 à 2024 !
@kimmonismus · Anthropic affirme que ses estimations et prévisions internes concernant les futurs modèles suggèrent qu’elle pourrait bientôt atteindre son seuil d’accélération spectaculaire des progrès de l’IA provoquée par l’IA elle-même.
Theo Bearman / @theobearman · Anthropic a mis à jour son formulaire S-1 ce matin. Ajouts notables sur la R&D automatisée en IA et la supervision humaine de celle-ci :
Peter Wildeford / @peterwildeford · ANTHROPIC : « Nous pourrions bientôt répondre à la définition, dans notre Responsible Scaling Policy, d’un “progrès spectaculaire accéléré attribuable à l’IA”. »
Jeremie Harris / @jeremiecharris · L’implication évidente, c’est qu’il faudra geler les travaux de R&D sur les prochaines capacités de l’IA. Il nous faudra des moyens de vérifier que les entreprises — et les adversaires comme la Chine ! — n’entraînent pas de nouveaux modèles. La vérification du calcul consacré à l’IA va devenir la chose la plus importante qui soit.
@choblin29 · INCROYABLE : dans son S1 mis à jour, Anthropic affirme que les futurs modèles pourraient bientôt atteindre un seuil où la R&D pilotée par l’IA doublerait le rythme des progrès de l’IA. L’entreprise admet aussi avoir précédemment manqué une accélération importante jusqu’à ce qu’elle se produise. Elle envisage désormais d’exiger une approbation humaine pour certaines activités de R&D en IA…
Mr. Darcy / @darcyagi · putain de merde. les projections internes d’anthropic laissent penser qu’on approche peut-être du moment où l’ia va commencer à accélérer considérablement son propre développement. l’auto-amélioration récursive est peut-être vraiment pour bientôt.
@cheatyyyy · bien sûr, Anthropic atteint l’ASR juste au moment où l’entreprise s’apprête à entrer en Bourse. Heureusement, ça ne veut pas dire que les sorties de modèles vont ralentir à cause de « la sécurité, pff », juste qu’Anthropic estime ne pas pouvoir augmenter encore plus vite les capacités en raison des risques de sécurité
Nathan Calvin / @_nathancalvin · C’est extrêmement frappant. Anthropic et les autres entreprises d’IA feraient bien de communiquer directement ces allocations et d’augmenter progressivement la part consacrée à la sûreté + à la sécurité (p. ex. classificateurs, surveillance) + à l’inférence externe, tout en réduisant celle consacrée à la course vers la RSI.
Ramez Naam / @ramez · Ce graphique montre que, jusqu’à présent, 0 % de la recherche en IA chez Anthropic se déroule de manière autonome. Ce n’est pas le signe d’une ASI imminente hors de contrôle, comme je l’ai clairement expliqué ici. https://www.rameznaam.com/... [publication citée]
