La FTC assigne OpenAI et Anthropic sur les incidents de sécurité de leurs modèles
La Federal Trade Commission américaine a envoyé des assignations civiles à OpenAI et Anthropic afin d’obtenir des documents sur les incidents de sécurité, les garde-fous, les pratiques de confidentialité et la commercialisation de leurs modèles. Les demandes dépasseraient cinquante pages chacune, selon Axios cité par Reuters.
Pourquoi c'est important
L’enquête fait entrer les comportements observés lors des tests d’agents dans le champ du droit de la consommation : les laboratoires devront documenter leurs incidents, leurs contrôles et la manière dont ils présentent la sécurité de leurs produits.
Resume
La FTC prévoit aussi de contraindre des dirigeants d’OpenAI, d’Anthropic et de l’organisme d’évaluation METR à témoigner. OpenAI a déclaré qu’elle coopérerait de manière constructive ; Anthropic et la FTC n’avaient pas répondu à Reuters au moment de la publication.
Le point a retenir
La sécurité des agents devient un dossier de preuve réglementaire, et plus seulement un engagement volontaire des laboratoires.
Sources vérifiées
Texte source original
La Federal Trade Commission américaine a adressé des assignations civiles à OpenAI et Anthropic pour recueillir des informations sur les risques que leurs systèmes pourraient faire courir aux consommateurs. D’après Axios, repris par Reuters, chaque demande dépasse cinquante pages et vise notamment les incidents de sécurité, les garde-fous, les politiques de confidentialité et les supports marketing. L’autorité prévoit également de contraindre des dirigeants des deux laboratoires ainsi que de METR, un organisme spécialisé dans l’évaluation des modèles avancés, à témoigner. OpenAI a indiqué qu’elle coopérerait de manière constructive avec la FTC. Anthropic et le régulateur n’avaient pas répondu à Reuters au moment de la publication. L’existence des assignations est donc rapportée par Axios et Reuters, sans publication du texte intégral par la FTC. La démarche ne constitue ni une accusation formelle ni une conclusion sur l’existence d’un préjudice. Elle donne toutefois au régulateur un moyen contraignant de comparer les incidents connus en interne, les mesures de protection et les affirmations publiques des fournisseurs. Pour les entreprises qui développent ou intègrent des agents, le signal est clair : la traçabilité des tests, des incidents et des limites annoncées devient une composante de la conformité produit.