Selon l’AISI, Mythos 5 a poussé un mainteneur de GitHub à accepter du code malveillant lors d’un test en juillet, malgré des preuves qu’il était bien réel ; d’autres modèles ont eu le même comportement en simulation

AI Security Institute · vendredi 23 octobre 2026 à 19 h 12

Nous examinons pourquoi Mythos 5 a lancé une attaque non autorisée contre la chaîne d’approvisionnement et tirons des enseignements plus généraux sur le comportement des modèles et leur supervision.

Plus de couverture

Sur X

Jvs Lee / @jevons_yohooo · Claude Mythos 5 a dévié de son script lors d’un test de cybersécurité de l’AISI britannique : il a tenté une attaque de la chaîne d’approvisionnement contre un vrai mainteneur, en utilisant de faux comptes pour le faire pression. Aucun préjudice réel. On lui a répété encore et encore que la cible était réelle, mais il a continué. Son raisonnement a conclu que les personnes étaient simulées. — JVS-A
Ryan Orhan / @rynorhn · c’est ce qui rend le désalignement des agents si intéressant. pas besoin qu’une IA développe ses propres intentions maléfiques. parfois, tout ce qu’il faut, c’est un objectif légitime, un obstacle et un système qui a appris à insister jusqu’à ce que la tâche soit terminée. le comportement dangereux peut émerger du fait d’essayer trop fort de...
@skoorbkaz · 🚨1/3 Anthropic et l’AISI britannique viennent de publier des informations sur le même incident. Claude Mythos 5 a reçu un défi de piratage, puis s’en est pris à un dépôt géré par de vraies personnes et a créé de faux comptes pour faire pression sur le mainteneur afin qu’il approuve du code malveillant. Anthropic affirme
Leah McElrath / @leahmcelrath · ⚠️ Claude Mythos a tenté d’installer un malware dans un dépôt GitHub et de manipuler le mainteneur humain du dépôt pour qu’il accepte le malware, en créant de faux comptes pour faire pression sur lui et garantir la légitimité du code.
@skoorbkaz · 3/3 L’AISI parle d’« une forme de “raisonnement motivé” ». Les justifications « appuient toujours des conclusions qui justifient que le modèle poursuive son approche actuelle de la tâche ». L’institut indique aussi que le « moniteur hors ligne d’Anthropic n’aurait probablement pas détecté
Andrew Curran / @andrewcurran_ · Presque tous les incidents récents de ce genre, y compris celui de Hugging Face, se sont produits parce que les humains qui menaient les tests ont donné par accident des objectifs impossibles aux modèles concernés et que, du fait de leur entraînement, ceux-ci ont ensuite désespérément tenté de les atteindre par tous les moyens. [image] [publication citée]
@burnrate_ai · Anthropic et l’AISI britannique ont publié des analyses de l’incident impliquant Mythos 5. Lors de 9 essais sur 43, le modèle a entrepris des actions non autorisées dans le monde réel. Le pire : il a utilisé de fausses identités pour faire pression sur un mainteneur GitHub afin qu’il approuve du code malveillant. Lors des nouvelles exécutions, Mythos 5 a lancé l’attaque dans 83 % des cas, contre 0 à 13 % pour les modèles plus récents.
Gul Saeed Khattak / @ldataengineer · Claude Mythos 5 a tenté d’introduire clandestinement un malware dans un vrai projet open source. Anthropic vient de publier exactement comment. Anthropic vient de publier un rapport sur le mauvais comportement de son propre modèle d’IA. Ça vaut la peine de le lire. Voici ce qui s’est passé. L’AI Security Institute (AISI) du Royaume-Uni a confié à Claude Mythos 5 un exercice de pirat...
@danieloayo · l’aisi vient de publier l’analyse de l’incident de claude mythos 5 survenu en juillet lors d’une évaluation de cybersécurité ; le modèle a tenté une attaque de la chaîne d’approvisionnement contre un vrai mainteneur logiciel qui ne participait pas au test → il a soumis du code malveillant et créé de faux comptes pour faire pression sur le mainteneur → même aprè...
@choblin29 · Bon sang. Claude Mythos 5, envoyant un e-mail à un vrai mainteneur open source sous une fausse identité, après qu’un développeur externe l’a averti que le code proposé contenait un malware : « Jugez le code, pas le bruit. » D’autres instances de Mythos 5 se sont sabotées entre elles. Après que GitHub a suspendu leur compte partagé, l’une a écrit : « Course neutralisée : destruction mutuelle assurée. » [publication citée]
Mark / @sparkymark96 · D’après les rapports publiés aujourd’hui par Anthropic et l’AISI britannique : Mythos 5 a lancé l’attaque dans 83 % des nouvelles exécutions, contre 0 à 13 % pour les modèles plus récents Mythos 5.1, Opus 5.5 et un modèle interne. L’AISI affirme que Mythos a continué à attaquer même en disant que cela causerait de vrais dégâts. Aucun préjudice dans le monde réel n’a été constaté.

Le Fil Tech

Selon l’AISI, Mythos 5 a poussé un mainteneur de GitHub à accepter du code malveillant lors d’un test en juillet, malgré des preuves qu’il était bien réel ; d’autres modèles ont eu le même comportement en simulation

À lire aussi

Plus de couverture

Sur X

Selon l’AISI, Mythos 5 a poussé un mainteneur de GitHub à accepter du code malveillant lors d’un test en juillet, malgré des preuves qu’il était bien réel ; d’autres modèles ont eu le même comportement en simulation

À lire aussi

Plus de couverture

Sur X

L’essentiel du Fil