Un grand merci à Max Farrens, Gabe Fried et Thomas Larsen, qui m’ont accompagné pendant une grande partie de la rédaction et des recherches pour cet essai.
Sur X
Jatin K Malik / @jatinkrmalik · Si vous travaillez de près ou de loin dans l’IA et le développement logiciel, je vous recommande vivement de lire ou d’écouter cet article. https://www.dwarkesh.com/p/rsi
@aisafetymemes · Dwarkesh a considérablement raccourci ses échéances : l’ASI est « peut-être à quelques mois seulement ». Il y a encore quelques mois, il pensait qu’elle était à « près d’une décennie ».
Dan Robinson / @danrobinson · En tant que personne qui espérait que la puissance de calcul ferait obstacle à la RSI, l’intuition exposée dans cette note de bas de page m’a frappé comme un coup de massue
Luke Muehlhauser / @lukeprog · Beaucoup de gens raccourcissent encore une fois leurs échéances pour l’AGI. https://www.dwarkesh.com/p/rsi [image]
Ben Hayum / @benhayum · « En quatre ans, nous sommes passés d’un enfant d’âge préscolaire à un stagiaire surdoué. Si un autre bond de cette ampleur se produisait, mais à partir de 2027 ou 2028, on obtiendrait probablement une intelligence largement surhumaine dans des domaines même légèrement vérifiables. »
Dwarkesh Patel / @dwarkesh_sp · Pourquoi est-ce que je pense que les IA entraînées dans un data center pendant l’explosion de l’intelligence resteront très douées pour les choses floues (comme, disons, diriger une entreprise du Fortune 500) ? Deux grandes raisons : 1. La généralisation que nous observons déjà chez
@prathoshap · La vérifiabilité des résultats est essentielle pour la RSI. L’argument, c’est que la RSI est imminente parce que la plupart des recherches en IA sont vérifiables (comme les problèmes de maths) et peuvent donc être entraînées par RL.
Shakeel / @shakeelhashim · Ce n’est absolument pas l’élément le plus important, mais : Gabe Bankman-Fried est réapparu ! Il est cité dans les remerciements en haut de page ; il se fait désormais appeler Gabriel Fried et a une entreprise qui « crée des environnements RL pour le trading quantitatif », selon son profil LinkedIn.
Dwarkesh Patel / @dwarkesh_sp · La capacité de l’IA à résoudre des problèmes bien circonscrits va avoir un impact encore plus important sur la recherche en machine learning que sur les mathématiques au sens large. Car le but de la recherche en mathématiques n’est pas seulement de prouver ou réfuter d’interminables listes de conjectures, mais aussi d’élargir la compréhension humaine…
Thomas Larsen / @thlarsen · Jusqu’à récemment, je n’accordais pas assez de poids aux arguments présentés ici : - Les IA sont déjà surhumaines en maths, en grande partie parce que c’est si vérifiable - Il est plus coûteux de vérifier la recherche en IA que les maths (car il faut de la puissance de calcul pour les expériences), mais des indicateurs indirects comme la loss de pré-entraînement restent très bons…
Andy Masley / @andymasley · Nous devons vraiment mobiliser toute la société pour réfléchir à ce qui est sur le point de se passer
