@repligate · euh, ouais, c’est peut-être la principale raison pour laquelle toute la communauté de la sécurité de l’IA m’intéresse beaucoup moins depuis quelques années : on dirait que tout le monde a décidé que résoudre le problème de l’alignement était voué à l’échec et que la seule option était de tout mettre en pause/arrêter. alors que les progrès sur l’alignement ont en fait été plutôt opt...
Charlie Bullock / @charliebull0ck · Je suis d’accord avec beaucoup des points soulevés dans ce post. Pas assez de gens prennent au sérieux la question de l’effet qu’aurait une pause unilatérale des États-Unis sur les dynamiques de négociation avec la Chine ; je suis content qu’Alexander le fasse. Et j’apprécie aussi à quel point Scott est bizarrement honnête et transparent sur ce qu’il pense vraiment,...
@jessi_cata · Scott Alexander : « J’ai... tourné en dérision nos adversaires mal informés, qui insistaient sur le fait que si nous mettions unilatéralement l’IA en pause, la Chine gagnerait. Mais en réalité, disais-je, personne ne veut mettre unilatéralement l’IA en pause ; c’est de la désinformation... Me voilà obligé de ravaler mes paroles » https://www.lesswrong.com/...
Sasha Gusev / @sashagusevposts · Le recours aux superprévisionnistes dans les débats sur l’IA est fascinant. Ce post s’appuie largement sur les prédictions de cinq d’entre eux qui travaillent dans un groupe de réflexion sur la sécurité de l’IA. Un précédent post ( https://www.astralcodexten.com/ ...) écartait en grande partie les prédictions de nombreux superprévisionnistes généralistes. Dans la conception de la recherche, on appelle ça l’...
Ryan Kidd / @ryan_kidd44 · Si vous ne lisez qu’un seul article de blog sur la sécurité de l’IA cette année, que ce soit celui-ci https://www.lesswrong.com/...
Dan Williams / @danwilliamsphil · Excellent et à lire absolument pour toute personne qui s’intéresse à l’IA et au risque existentiel : https://www.lesswrong.com/...
James Campbell / @jam3scampbell · J’ai aimé cet article de @slatestarcodex. Je ne suis pas d’accord avec tout, mais je pense que les labos devraient plaider avec force pour un ralentissement, tout en ayant un solide plan d’alignement pour les mondes où tous les acteurs ne sont pas prêts à se coordonner https://www.lesswrong.com/...
Boaz Barak / @boazbaraktcs · Petit commentaire sur l’essai SURA de Scott Alexander. Je suis d’accord avec plusieurs de ses arguments, mais il y a tout un éventail entre « s’arrêter unilatéralement » et « foncer vers la RSI à toute vitesse, puis tenter de résoudre le problème de l’alignement avec des IA à deux doigts de la superintelligence.
@benthamsbulldog · Incroyable comme Scott a toujours le don d’avoir parfaitement raison. https://www.lesswrong.com/...
Alex Trembath / @atrembath · « Le mouvement pour le climat est le groupe témoin naturel du mouvement pour la sécurité de l’IA… À mesure que le mouvement prenait de l’ampleur, son épistémologie se dégradait. » via @slatestarcodex https://www.lesswrong.com/...
Newsletter
L’essentiel du Fil
Recevez l’essentiel de l’actualité tech chaque matin dans votre boîte mail gratuitement.
