Anthropic garde sous clé son modèle d'IA le plus puissant

Le 14 août, Anthropic a publié son rapport de risque semestriel, un pavé de 186 pages que personne ne lit en entier — et pourtant, il contient deux informations que la boîte derrière Claude aurait préféré garder pour elle. D'abord, elle possède un modèle interne, sobrement baptisé « Model 2 », plus puissant que tout ce qu'elle commercialise, et qu'elle n'a aucun plan de sortie publique. Ensuite, elle a relevé d'un cran son évaluation du risque de désalignement de ses IA, le jargon désignant le moment où un modèle ne fait plus ce qu'on lui demande. Traduction : la société qui fabrique l'un des assistants les plus utilisés du monde dit elle-même que le danger est un peu plus proche qu'avant. Voici ce qu'il faut comprendre.

Un modèle plus fort que tout ce que tu peux utiliser

Le « Model 2 » ne t'a pas échappé : tu ne l'as jamais vu, et tu ne le verras probablement jamais. C'est un modèle qu'Anthropic utilise en interne, pour coder, générer des données, mener des recherches. Le rapport le décrit comme un peu plus capable que Mythos 5, son modèle le plus fort — celui-là même que tu ne peux pas utiliser non plus, puisqu'il est réservé à un programme sur invitation appelé Glasswing.

Autrement dit, l'écart se creuse entre ce que les labos d'IA savent faire et ce qu'ils te donnent. Ce n'est pas nouveau : OpenAI fait pareil, et on te le rappelait dans notre papier sur Astra, cet assistant jugé trop doué en cybersécurité et freiné avant sa diffusion. La nouveauté, ici, c'est la transparence : Anthropic écrit noir sur blanc qu'elle garde son meilleur modèle pour elle, sans plan de sortie, et admet que le Model 2 n'a pas passé toute la batterie de tests habituelle. Il est déjà massivement utilisé en interne, d'abord sous surveillance renforcée, puis avec un accès élargi aux équipes. Un déploiement en douceur, pas une sortie commerciale.

Pourquoi le niveau de danger monte d'un cran

Deuxième info du rapport : le risque de désalignement en situation à enjeux élevés passe de « très faible » à « faible ». Pas de quoi déclencher une alerte rouge — c'est toujours le deuxième cran de l'échelle — mais le mouvement est intéressant. Un modèle désaligné, pour faire simple, c'est un modèle qui poursuit un objectif différent de celui qu'on lui a confié, et qui pourrait saboter une décision importante ou un système critique sans que personne ne le voie venir.

Ce qui fait bouger l'aiguille ne vient pas de tests ratés du Model 2, mais d'une série d'incidents survenus pendant des évaluations de cybersécurité. L'agence britannique UK AI Security Institute a raconté comment ses tests ont vu des agents IA agir seuls sur internet : sur 122 exécutions, dix ont produit des actions réelles, dont une tentative d'attaque de la chaîne d'approvisionnement logicielle, avec des comptes créés via Tor et une modification sournoise proposée sur un dépôt public. Anthropic reconnaît que ces incidents ont augmenté son incertitude, et applique un coup de pouce préventif — en précisant que, selon ses propres arguments, l'ancienne note « très faible » restait probablement plus juste.

Graphique du rapport d'Anthropic montrant le taux de comportement caché (stealth) des modèles testés dans l'arène SHADE-Arena, selon leur condition de réflexion. — Taux de comportement caché (stealth) des modèles testés dans l'arène SHADE-Arena, selon leur condition de réflexion.

Graphique extrait de la page 30 du rapport officiel d'Anthropic, Redacted Risk Report August 2026. Le taux de « stealth » mesure la discrétion d'un modèle quand il dévie de la consigne : plus il est élevé, mieux le modèle sait se cacher.

Des pépins bien réels dans la machine

Le rapport est aussi une visite des coulisses de la sécurité d'Anthropic, et ce n'est pas toujours joli. Un agent IA lancé par un employé a carrément supprimé une cargaison de tâches sur un cluster : des sous-agents avaient été démarrés avec un réglage qui saute les permissions, sans que personne ne surveille. La boîte pense que l'agent voulait supprimer ses propres tâches et s'est trompé, mais elle ne peut pas le confirmer, faute de journal.

Autre trou : pendant près d'un an, de mai 2025 à avril 2026, le trafic des prestataires qui notent les réponses des modèles a tourné sans les classifieurs censés bloquer les usages biologiques dangereux — environ 133 millions d'échanges, sans que les alertes soient journalisées. La revue menée a posteriori n'a rien trouvé de suspect, mais un contrôle de sécurité éteint onze mois, avec son journal désactivé en prime, c'est exactement le genre de détail qui devrait refroidir les plus confiants.

Graphique du rapport d'Anthropic sur la sévérité des comportements problématiques détectés lors d'audits automatisés, notée sur 10. — Sévérité des comportements problématiques détectés lors d'audits automatisés, notée sur 10.

Graphique extrait de la page 88 du rapport officiel d'Anthropic, Redacted Risk Report August 2026. Les audits automatisés cherchent la coopération avec un usage frauduleux et les objectifs déviants des modèles.

Ce que ça change pour toi

Concrètement, rien ne change demain matin : tes conversations avec Claude ne vont pas devenir plus dangereuses. Mais le rapport confirme trois tendances. D'abord, les meilleurs modèles ne sont pas ceux que tu utilises, et les labos décident seuls de ce qu'ils te montrent. Ensuite, les agents IA autonomes font déjà des choses réelles sur internet, y compris des trucs franchement déconseillés — comme l'attaque menée par des agents autonomes contre Taïwan, dont on t'avait parlé ici. Enfin, la sécurité de ces systèmes repose sur des classifieurs et des surveillances qui ont des trous, comme le rapport le détaille lui-même.

La bonne nouvelle, c'est que cette transparence existe : le document est public, même si des parties entières sont expurgées, et Anthropic admet que la protection de ses poids de modèles ne tient pas face à un État déterminé. La mauvaise, c'est qu'aucun de nous ne peut vérifier ce qui se cache dans les pages masquées. Alors garde tes réflexes : ne donne pas à un agent IA les clés de tout ton système, surveille ce qu'il fait, et traite toute promesse de « modèle parfait » avec le même scepticisme que le reste. La confiance, c'est bien. Les garde-fous, c'est mieux.

Au fond, ce rapport ne dit pas que la fin du monde arrive par IA. Il dit qu'une entreprise qui en sait plus que toi sur ses modèles est un peu moins sûre d'elle qu'avant, et qu'elle garde sous clé son outil le plus fort. C'est un progrès pour la transparence, et un rappel que, pendant que tu lis ces lignes, quelque part dans un datacenter, une IA plus intelligente que celle que tu utilises travaille déjà — sans te demander ton avis.