OpenAI active un filigrane invisible sur ses textes pour se conformer à l'AI Act

OpenAI a détaillé mardi son approche du marquage des textes générés par IA, en réponse à une obligation de l'AI Act européen : rendre les contenus textuels produits par ces systèmes identifiables de façon lisible par machine. L'entreprise reconnaît d'emblée les limites de la technologie qu'elle déploie, textGrain, et choisit un déploiement progressif plutôt qu'un activation mondiale par défaut.

Ce que l'AI Act impose, et ce qu'OpenAI met en place

Trois mesures entrent en vigueur à des rythmes différents. D'abord, les clients de l'API peuvent dès aujourd'hui activer volontairement le filigrane de texte sur certains modèles — il reste désactivé par défaut partout dans le monde. Ensuite, dans les prochaines semaines, un filigrane invisible sera ajouté automatiquement aux sorties texte de ChatGPT et Codex pour les utilisateurs situés dans l'Union européenne, tous abonnements confondus. Enfin, OpenAI ouvre des candidatures pour accéder à son détecteur de filigrane, réservées dans un premier temps à des chercheurs et organisations expertes approuvées au cas par cas, conformément au code de bonnes pratiques de la Commission européenne.

TextGrain fonctionne en ajoutant un signal statistique invisible dans les choix de mots du modèle ; le détecteur recherche ensuite ce signal dans un passage pour évaluer s'il provient d'OpenAI. Selon l'entreprise, la technologie égale ou dépasse les performances de SynthID pour le texte, l'approche concurrente de Google DeepMind.

Une technologie qui tient mal face à l'édition

OpenAI publie ses propres chiffres d'évaluation, et ils exposent crûment les limites de l'exercice. Pour un taux de faux positifs fixé à 1 %, le détecteur identifie le filigrane dans environ 80 % des passages de 200 tokens, contre 95 % pour des passages de 400 tokens — et bien moins sur des contenus comme les mathématiques, où le choix des mots laisse peu de marge de manœuvre statistique. Plus préoccupant : l'édition humaine détruit rapidement le signal. Remplacer 10 % des mots d'un passage par des synonymes fait chuter la détection d'environ 92 % à 66 % ; en remplacer 25 % la fait tomber à 17 %.

OpenAI insiste aussi sur ce qu'un filigrane ne prouve pas : il n'indique ni la part de contribution humaine, ni la propriété du texte, ni l'identité de l'utilisateur, ni la véracité du contenu. Et l'absence de détection ne prouve pas davantage une rédaction purement humaine — le texte peut avoir été trop court, édité, traduit, ou produit par un modèle non couvert par la technologie.

Pourquoi ce choix de prudence

Sur le plan technique, OpenAI assure que le filigrane n'altère pas significativement les performances de son modèle de référence Astra : les écarts mesurés sur des benchmarks comme l'Artificial Analysis Intelligence Index, Terminal-Bench 4.0 ou GPQA Diamond restent marginaux entre textes filigranés et non filigranés. C'est justement parce que la fiabilité de la détection reste incertaine — avec un risque de faux positifs qui pourrait accuser à tort un auteur humain, et de faux négatifs qui laisseraient passer un texte généré — qu'OpenAI limite l'accès au détecteur plutôt que de le rendre public, à la différence de ses outils de vérification d'images et d'audio déjà accessibles via openai.com/verify.

Cette démarche s'inscrit dans une stratégie de traçabilité plus large, qui combine Content Credentials conformes au standard C2PA, filigranes SynthID sur l'image et l'audio, et outils de vérification publics pour ces deux formats. OpenAI promet de revoir chaque volet de son approche au fil de l'évolution de la technologie, des standards et des exigences réglementaires — un aveu que le texte reste, pour l'instant, le point faible de l'édifice de la traçabilité de l'IA générative.

Le choix de limiter le déploiement automatique à la seule Union européenne, plutôt que d'en faire un standard mondial par défaut, est révélateur de la tension qui traverse tout le dossier de la provenance textuelle. OpenAI explique vouloir « apprendre de l'usage réel » avant toute généralisation — une façon de reconnaître, sans le dire frontalement, qu'une technologie encore immature déployée à grande échelle risquerait de produire plus de confusion que de transparence. Pour les éditeurs, enseignants et plateformes qui espéraient un outil fiable de détection de texte généré par IA, le message d'OpenAI est sans ambiguïté : ce n'est pas encore pour aujourd'hui, et ça ne le sera peut-être jamais complètement, tant que l'édition d'un texte suffira à effacer la plupart des traces du filigrane.