Anthropic affirme avoir réduit de 90 % à 99 % l’extraction de données par distillation
Anthropic a détaillé de nouvelles défenses contre les attaques de distillation visant à copier les capacités de Claude. Selon ses premières mesures internes, elles ont réduit d’environ 90 % à 99 % la quantité de raisonnement extraite sur sa plateforme.
Pourquoi c'est important
La protection des sorties et du raisonnement devient une couche opérationnelle de sécurité et de propriété intellectuelle pour les fournisseurs de modèles, avec des compromis concrets pour les développeurs légitimes.
Resume
Le dispositif combine un contexte de raisonnement protégé, un classificateur en deux étapes et des restrictions ou bannissements de comptes. Anthropic annonce un taux de faux positifs inférieur à 0,1 % et reconnaît ne pas encore avoir observé de tentative récente à la fois très sophistiquée et persistante.
Le point a retenir
L’antidistillation devient une discipline continue de détection et de réponse, pas un verrou technique définitif.
Sources vérifiées
Texte source original
Anthropic a publié les résultats initiaux de nouvelles défenses contre la distillation, c’est-à-dire l’extraction systématique des sorties d’un modèle afin d’en reproduire les capacités dans un autre. L’entreprise estime que la quantité de raisonnement récupérée par les attaquants sur sa plateforme a diminué d’environ 90 % à 99 %. La stratégie repose sur plusieurs couches. Le mécanisme « preserved thinking » limite le déplacement et la modification du contexte de raisonnement entre comptes ou modèles. Un classificateur en deux étapes détecte les requêtes d’extraction, tandis que les comptes persistants sont restreints ou bannis. Anthropic dit avoir fermé des dizaines de milliers de comptes associés à ces campagnes et facture depuis le 24 septembre certaines requêtes bloquées dans les catégories où le taux de faux positifs est inférieur à 0,1 %. Ces résultats sont produits par Anthropic à partir de sa propre plateforme. L’entreprise reconnaît que les attaquants continueront d’adapter leurs méthodes, que certains développeurs ont dû modifier leurs intégrations et qu’elle n’a pas encore affronté une tentative récente cumulant sophistication et persistance maximales. Le signal utile est donc l’efficacité initiale d’une défense multicouche, non la disparition du risque.