Anthropic réduit le vol de tokens de raisonnement de Claude jusqu'à 99 %
Anthropic affirme avoir réduit de 90 à 99 % le volume de tokens de raisonnement extraits de ses modèles Claude, selon The Decoder. L'entreprise américaine cible des attaques de distillation à grande échelle menées via des centaines de milliers de faux comptes, et nomme les chinois Zhipu et Moonshot.
Dans cet article
Anthropic dit avoir réduit de 90 à 99 % le volume de tokens de raisonnement extraits de ses modèles Claude, selon The Decoder. Ces tokens correspondent aux étapes internes de la chaîne de raisonnement du modèle. L'entreprise américaine cherche ainsi à contrer des attaques dites de distillation à grande échelle.
Des réseaux de faux comptes pour copier les capacités du modèle
Dans ce type d'attaque, des entreprises copient méthodiquement les capacités d'un modèle d'IA afin d'entraîner leurs propres modèles, plus petits. Pour y parvenir, les attaquants s'appuient sur des réseaux comptant des centaines de milliers de faux comptes.
Anthropic désigne deux entreprises chinoises comme participantes : Zhipu et Moonshot. Selon l'entreprise, Zhipu aurait siphonné des capacités en cybersécurité de modèles américains de premier plan pour son modèle GLM-5.3, tandis que Moonshot aurait discrètement fait transiter des requêtes par Claude. Les capacités dérobées pourraient finir dans des systèmes militaires et de surveillance étrangers.
Restrictions, classificateur et bannissements automatiques
Pour se défendre, Anthropic restreint désormais l'accès aux étapes de raisonnement interne de Claude. L'entreprise fait tourner un classificateur chargé de détecter les tentatives d'extraction et bannit automatiquement les comptes signalés. Des dizaines de milliers de comptes ont déjà été bannis.
Anthropic appelle d'autres développeurs d'IA à adopter des protections similaires. L'entreprise reconnaît toutefois que des utilisateurs légitimes sont eux aussi touchés par le dispositif.
