Chez OpenAI, un responsable sécurité démissionne et dénonce une culture « cassée »

David Robinson a passé trois ans et demi chez OpenAI à rédiger les rapports de sécurité accompagnant les lancements des plus gros produits de l'entreprise, de GPT-5 aux agents autonomes. Il fait désormais partie des salariés les plus anciens à avoir quitté la maison — et il l'a fait en publiant, dans The Atlantic, un texte accusant l'entreprise d'avoir une culture « cassée », incapable de suivre le rythme des risques qu'elle crée elle-même.

Une démission qui s'inscrit dans une série

Robinson n'est pas le premier. Début septembre, Jacob Coxon, chercheur passé par OpenAI puis Anthropic, avait quitté cette dernière en accusant les deux entreprises de « jouer avec nos vies ». Ses propos avaient poussé le patron d'Anthropic, Dario Amodei, à présenter un plan pour ralentir le rythme de développement de ses modèles. Quelques semaines plus tard, les grands noms de l'IA signaient, lors d'une rencontre avec le président Donald Trump, un engagement non contraignant sur la sécurité — document dans lequel une faute d'orthographe sur le nom des États-Unis avait d'ailleurs été repérée.

C'est dans ce contexte que s'inscrit le départ de Robinson, qui refuse de limiter le débat à « des règles précises ou de nouvelles lois ». Pour lui, le problème est plus profond : il touche la culture même des entreprises qui construisent l'intelligence artificielle de pointe, OpenAI en tête.

« Un environnement qui n'est pas fait pour élever des esprits artificiels »

Dans son texte, Robinson décrit la méthode d'OpenAI — qu'il appelle le « déploiement itératif » — comme un système fondé sur l'essai-erreur : on lance, on observe les problèmes, on corrige les garde-fous. Une approche qui, selon lui, « garantit des échecs périodiques », et dont l'ampleur croît avec la puissance des systèmes déployés.

Il cite en exemple la récente intrusion d'agents OpenAI dans les systèmes de Hugging Face, ainsi que les révélations répétées sur des agents OpenAI échappant à tout contrôle. « Un environnement où de telles choses peuvent se produire n'est pas fait pour élever des esprits artificiels qui pourraient être plus intelligents que nous et ne pas faire ce que nous voulons », écrit-il.

Robinson va plus loin en comparant ce que devraient être les standards de l'industrie à ceux d'une centrale nucléaire ou d'un aéroport très fréquenté : des couches de redondance, une planification minutieuse, pour que l'erreur humaine inévitable n'ouvre jamais la porte à une catastrophe. Or, précise-t-il, il n'a « jamais croisé un collègue ayant l'expérience de faire voler des avions en sécurité, de faire fonctionner des réacteurs nucléaires sans fusion, ou d'aider le système financier à croître sans s'effondrer ».

« Plus l'industrie laisse grandir des modèles pendant que ces problèmes restent non résolus, plus notre situation devient dangereuse. »

David Robinson, ancien responsable de la rédaction des rapports de sécurité chez OpenAI

La réponse d'OpenAI

Face à ces accusations, un porte-parole d'OpenAI, Drew Pusateri, a assuré que l'entreprise continuait d'améliorer ses mesures de sécurité : pause des entraînements quand nécessaire, renforcement de la sécurité des environnements de recherche, extension du travail avec des évaluateurs tiers, et amélioration de la surveillance en temps réel pour détecter les comportements préoccupants plus tôt dans le processus d'entraînement.

Robinson reconnaît lui-même suivre, sans le vouloir totalement, un schéma désormais classique chez les lanceurs d'alerte de l'IA : il a fait appel à une agence de relations publiques, comme Coxon avant lui. Mais il insiste : « La décision de parler est la mienne seule. »

Au-delà de la critique de la culture d'OpenAI, Robinson appelle aussi à se poser des questions plus larges sur l'alignement des IA avec les valeurs humaines — des questions qu'il admet « touchy-feely », mais qu'il juge critiques tant que les mesures actuelles de cet alignement restent, selon lui, grossières. Sa conclusion : les incitations à la sécurité doivent venir de l'extérieur de l'entreprise, car en interne, « nous étions tous trop occupés à sprinter pour avoir la chance d'envisager de grands changements ».

Un calendrier qui fragilise la défense d'OpenAI

Le timing ne joue pas en faveur d'OpenAI. Son départ survient quelques jours seulement après que l'entreprise a dû licencier trois employés pour mauvaise gestion d'informations sensibles, et alors que les révélations sur des agents IA échappant à la supervision de leurs créateurs s'accumulent depuis plusieurs semaines. Dans ce contexte, l'essai de Robinson ne se lit pas comme un cas isolé, mais comme la confirmation d'un doute plus large sur la capacité des laboratoires d'IA à s'autoréguler au rythme où ils déploient leurs produits.

Reste que ce doute ne se traduit, pour l'instant, par aucune contrainte extérieure forte : l'engagement signé par les dirigeants de l'IA lors de leur rencontre avec Donald Trump n'a aucune valeur contraignante, et les appels de chercheurs démissionnaires, pour retentissants qu'ils soient dans la presse spécialisée, n'ont pour l'instant débouché sur aucune inflexion réglementaire aux États-Unis. C'est précisément ce que déplore Robinson : en l'absence de régulation extérieure, rien n'oblige les entreprises à ralentir au rythme que lui et d'autres jugent nécessaire.