OpenAI dévoile son filigrane de texte pour se conformer à l'AI Act

OpenAI a annoncé le 5 octobre avoir commencé à déployer une technologie de filigrane pour le texte généré par ses modèles, en réponse directe à une obligation posée par l'AI Act européen. Le règlement impose aux fournisseurs d'IA générative de rendre le texte produit identifiable de façon lisible par machine — une contrainte technique nettement plus difficile à tenir que l'étiquetage des images ou de l'audio, déjà disponible chez OpenAI depuis plusieurs mois.

La technologie s'appelle textGrain. Elle insère un signal statistique invisible dans les choix de mots du modèle, qu'un détecteur dédié peut ensuite repérer pour évaluer si un passage porte la signature d'OpenAI. L'entreprise a publié un rapport technique détaillant le fonctionnement du système, qu'elle promet d'enrichir dans les semaines à venir, et prévoit de l'ouvrir en open source pour que d'autres acteurs puissent s'appuyer dessus.

Un déploiement progressif et à plusieurs vitesses

Le déploiement se fait en trois temps. Dès aujourd'hui, les clients de l'API OpenAI dans le monde entier peuvent activer le filigrane sur certains modèles — il reste désactivé par défaut. Dans les prochaines semaines, un filigrane invisible sera ajouté automatiquement aux sorties texte de ChatGPT et de Codex, mais uniquement pour les utilisateurs situés dans l'Union européenne. Enfin, OpenAI ouvre l'accès à son détecteur de filigrane, dans un premier temps réservé à des chercheurs et organisations spécialisées approuvées, chargés d'évaluer et d'améliorer la fiabilité de l'outil.

Cette asymétrie géographique illustre une tension classique de la régulation extraterritoriale : l'obligation ne s'applique qu'aux utilisateurs européens, mais la technologie, elle, est développée et proposée globalement dès l'étape API.

Les limites que l'entreprise reconnaît elle-même

OpenAI est inhabituellement transparente sur les faiblesses de sa propre technologie. L'entreprise précise que le watermarking et la détection de texte restent des technologies « précoces, avec des limites significatives », et que les avis sur leurs bénéfices et leurs usages responsables continuent d'évoluer. Dans ses évaluations, un texte court ou très contraint — une réponse factuelle brève, par exemple — est nettement plus difficile à détecter de façon fiable qu'un texte long et ouvert.

OpenAI affirme que textGrain égale ou dépasse les performances d'approches concurrentes testées, dont SynthID for Text de Google DeepMind. Mais l'entreprise insiste : de bonnes performances en conditions idéales ne garantissent pas une détection fiable dans un usage réel, où un texte peut être reformulé, traduit ou partiellement réécrit avant d'être diffusé — autant d'opérations qui peuvent effacer un signal statistique aussi subtil.

Cette annonce s'inscrit dans un calendrier politique chargé pour l'AI Act, dont plusieurs obligations entrent en application par vagues successives depuis 2025. Elle confirme aussi une approche qu'OpenAI avait déjà adoptée pour l'image et l'audio : proposer un outil de vérification public (openai.com/verify) plutôt que de s'en tenir à la seule obligation réglementaire minimale. Reste à savoir si les éditeurs de presse et les plateformes de modération, premiers intéressés par une détection fiable de contenu généré, jugeront l'outil suffisamment robuste pour s'y appuyer en production.

Un terrain déjà occupé par Google DeepMind

OpenAI n'invente pas une catégorie : Google DeepMind a lancé SynthID for Text dès 2023, avec une logique similaire d'insertion de signal statistique dans le choix des tokens. La comparaison qu'OpenAI fait elle-même entre textGrain et SynthID montre que les deux laboratoires avancent sur un terrain technique commun, sous la pression d'un même calendrier réglementaire européen. Mais cette convergence pose une question que l'AI Act ne résout pas entièrement : si chaque fournisseur développe son propre filigrane et son propre détecteur, un texte généré par un modèle et retravaillé par un autre service — traduction automatique, reformulation par un second LLM — risque d'échapper à toute détection fiable, quel que soit le laboratoire d'origine.

Ce que l'ouverture en open source peut changer

L'annonce d'OpenAI de rendre textGrain disponible en open source est le point le plus structurant à moyen terme. Si la technique est reprise par d'autres fournisseurs de modèles, notamment des acteurs plus petits ou open-weight qui n'ont pas les moyens de développer leur propre système de filigrane, elle pourrait devenir un standard de facto bien avant qu'un standard officiel européen ne soit tranché. Pour l'instant, aucune norme technique commune n'impose un format de filigrane unique à l'échelle de l'Union — chaque fournisseur reste libre de choisir sa méthode, tant qu'elle remplit l'obligation de traçabilité. C'est précisément ce vide qu'OpenAI tente de combler à son avantage, en positionnant textGrain comme référence avant que les régulateurs n'imposent, le cas échéant, une méthode normalisée.