Surveiller sans lire : le pari d'OpenAI pour concilier sécurité et vie privée

Comment surveiller un système d'IA pour détecter les abus sans jamais lire ce que tapent ses utilisateurs ? C'est le problème qu'OpenAI a mis sur la table le 19 août en réaffirmant son engagement de « zéro rétention de données » (ZDR) et en dévoilant une préversion baptisée Private Safety Processing. Derrière le vocabulaire, une tension bien réelle du marché entreprise : les modèles les plus capables réclament une surveillance de sécurité plus poussée, alors même que les clients sensibles exigent que leurs données ne soient jamais exposées.

Le socle : ne rien garder

Le ZDR est une promesse simple pour les clients éligibles de l'API : OpenAI ne conserve ni les requêtes ni les réponses une fois le traitement effectué, aucun personnel de l'entreprise n'y a accès, et les données d'un client entreprise ne servent pas à entraîner les modèles sauf choix explicite. C'est le contrat de confiance de base pour une banque, un hôpital ou un cabinet qui manipule des dossiers financiers, des données de santé ou des plans stratégiques.

Le problème, c'est que les garde-fous compatibles ZDR examinaient jusqu'ici chaque interaction isolément. Or les risques les plus sérieux ne se voient souvent qu'en recoupant plusieurs échanges : quelqu'un demande dans une conversation les faiblesses d'un logiciel, puis, plus tard, s'intéresse à des outils d'accès à distance. Pris séparément, chaque message paraît anodin ; mis bout à bout, ils dessinent une intention. Le même angle mort existe quand un agent autonome « dérape » et continue d'agir après qu'on lui a demandé de s'arrêter.

Le mécanisme : un signal, pas le contenu

Private Safety Processing prétend combler ce trou sans casser la promesse ZDR. Le principe : des systèmes automatisés analysent des schémas à travers des interactions liées, sans qu'aucun employé d'OpenAI n'accède au contenu sous-jacent. Deux options de stockage coexistent. Soit les données restent sur une infrastructure contrôlée par le client ; soit elles sont hébergées chez OpenAI mais chiffrées avec des clés que seul le client détient — OpenAI n'en a pas de copie et ne peut donc pas les déchiffrer.

Quand un risque est repéré, OpenAI ne reçoit pas le texte incriminé mais un signal étroitement défini, indiquant le type d'activité en cause. Ce signal sert à décider si une mesure d'application s'impose. Même lorsqu'un échange est signalé, les équipes d'OpenAI n'accèdent pas au contenu ; c'est au client d'enquêter avec les informations dont il dispose dans ses propres systèmes, et de choisir, s'il le souhaite, de partager des éléments pour contester une alerte ou appuyer une investigation. Le dispositif est pour l'instant testé avec des clients pilotes ; un déploiement plus large et un livre blanc technique sont annoncés pour septembre.

Un coup porté à Anthropic

L'annonce n'est pas neutre sur le plan concurrentiel. Certains déploiements récents de modèles frontière ont exigé des clients qu'ils autorisent leur fournisseur à conserver des contenus sensibles à des fins de surveillance — une contrainte qui, pour beaucoup d'organisations, entre en conflit avec leurs obligations de sécurité. La presse spécialisée y lit sans détour une manœuvre pour damer le pion à Anthropic, dont l'approche impose davantage de journalisation des données. OpenAI positionne à l'inverse la confidentialité comme un avantage produit, pas seulement comme une case de conformité.

Le message vise clairement les directions techniques qui hésitent à confier leurs données les plus critiques à un modèle américain. En rappelant que la surveillance de sécurité peut progresser « sans compromettre le contrôle des données », OpenAI cherche à lever l'objection numéro un de l'adoption entreprise. C'est aussi une réponse indirecte aux inquiétudes soulevées par la CNIL sur la perte de maîtrise dans l'IA agentique : un agent qui agit sur la durée est justement le cas où le recoupement d'interactions devient nécessaire — et sensible.

Ce qu'il reste à prouver

Pour un décideur français, la promesse est séduisante mais demande vérification. Un système qui « détecte des schémas sans lire le contenu » repose sur des garanties techniques qu'il faudra auditer : que contient exactement le « signal » renvoyé à OpenAI, et ne peut-il pas, agrégé, en dire trop ? Le livre blanc de septembre sera le vrai juge de paix. En attendant, l'annonce déplace utilement le débat : la question n'est plus « surveillance ou vie privée », mais quelle architecture permet les deux à la fois — exactement le terrain sur lequel l'AI Act pousse les grands modèles. Sur ce point au moins, l'exigence européenne et l'argument commercial d'OpenAI finissent par pointer dans la même direction.