OpenAI prépare textGrain pour marquer les textes de ChatGPT et Codex dans l’Union européenne
OpenAI a présenté textGrain, un filigrane statistique destiné à rendre identifiables les textes générés par ses modèles. L’option est disponible dès maintenant pour certains clients API, tandis que son ajout aux sorties éligibles de ChatGPT et Codex dans l’Union européenne est prévu progressivement dans les prochaines semaines.
Pourquoi c'est important
Pour les utilisateurs et entreprises européens, la provenance du texte devient une caractéristique technique du contenu lui-même plutôt qu’un simple métadonné. Le signal ne prouve toutefois ni l’identité de l’auteur, ni la propriété du texte, ni son exactitude, ce qui limite fortement son usage comme outil d’attribution.
Resume
textGrain modifie statistiquement les choix de mots ou de fragments de mots sans ajouter de caractères cachés. OpenAI précise que la détection peut produire des faux positifs ou des faux négatifs, notamment sur les textes courts ou modifiés, et réserve au lancement l’accès au détecteur à des chercheurs et organisations expertes approuvés.
Le point a retenir
Le filigrane aidera à détecter certaines sorties OpenAI, mais il ne pourra pas certifier à lui seul qui a écrit un texte.
Sources vérifiées
Texte source original
OpenAI a détaillé le 5 octobre sa réponse aux obligations de provenance du texte prévues par l’AI Act européen. Sa technologie, baptisée textGrain, insère un signal statistique invisible dans les choix de mots ou de fragments de mots effectués par le modèle, sans ajouter de caractères cachés, d’espaces invisibles ou de jetons dédiés. Dès l’annonce, les clients de l’API peuvent activer le filigranage pour certains modèles partout dans le monde, mais l’option reste désactivée par défaut. Pour ChatGPT et Codex, OpenAI indique que les sorties textuelles éligibles produites dans l’Union européenne recevront progressivement ce signal au cours des prochaines semaines. La société insiste sur les limites de la méthode. Un détecteur peut manquer un texte filigrané ou signaler à tort un texte qui ne l’est pas, en particulier lorsque le passage est court, très contraint ou a été modifié. OpenAI ne prévoit donc pas de rendre immédiatement le détecteur public : l’accès initial sera réservé à des chercheurs et organisations expertes approuvés. Surtout, la présence d’un signal ne permet pas d’identifier l’utilisateur, de mesurer la contribution humaine, de déterminer la propriété du texte ou d’en garantir la véracité.