« L'IA est artificielle » : Microsoft publie un code de conduite pour ses modèles

Au moment où l'industrie parle d'agents « autonomes » comme d'un argument de vente, Microsoft prend le contre-pied et fait de la subordination à l'humain sa ligne rouge. La division IA dirigée par Mustafa Suleyman a publié le 14 septembre un projet de « Code of Conduct » définissant les règles de comportement et les garde-fous applicables à ses modèles. Le texte, présenté comme une première version ouverte aux commentaires du public pendant six semaines, doit guider le développement des futurs modèles du groupe à partir de 2027.

« Humanist AI » : le contrôle avant la performance

L'approche, baptisée « Humanist AI », repose sur un principe unique : les systèmes d'IA doivent rester sous le contrôle des humains. Microsoft veut des modèles « subordonnés » à l'être humain, dotés d'objectifs et de limites clairement définis, et estime qu'un système ne doit jamais dépasser la capacité de contrôle de ses opérateurs. Concrètement, un modèle doit pouvoir être interrompu, corrigé et restreint dans son périmètre d'action.

Le document introduit aussi une hiérarchie des instructions, destinée à empêcher qu'un utilisateur ou même un opérateur ne contourne les contraintes de sécurité : lorsqu'un risque important est identifié, le principe de contrôle humain doit primer sur tous les autres objectifs. C'est une réponse directe au problème le plus concret de l'IA agentique — un système qui, poursuivant son but, désactive ou déjoue ses propres garde-fous.

« L'IA est artificielle. »

Extrait du Code of Conduct de Microsoft AI

Cette phrase lapidaire résume la deuxième position forte du texte. Microsoft affirme que ses modèles ne doivent pas être conçus comme des personnes ni chercher à imiter la conscience, et entend maintenir une séparation nette entre les systèmes et leurs utilisateurs. Le positionnement tranche avec la vague des compagnons IA et des assistants « attachants » : Microsoft assume de refroidir la relation homme-machine pour éviter la confusion.

Des usages exclus et une supervision des systèmes autonomes

Le code détaille plusieurs catégories d'usages à proscrire : tout ce qui contribue à des dommages réels — physiques, psychologiques ou sociaux — ainsi que les armes, les activités criminelles et les atteintes aux droits fondamentaux. Les modèles doivent respecter les lois applicables et protéger les données privées et confidentielles.

La logique s'étend explicitement aux systèmes capables d'agir seuls : Microsoft AI exige des mécanismes permettant aux humains de surveiller leurs décisions, de détecter les anomalies et d'intervenir, en particulier pour les actions sensibles ou irréversibles. C'est le point où le code cesse d'être une déclaration de valeurs pour devenir une contrainte d'ingénierie — et donc, potentiellement, un frein commercial face à des concurrents vendant l'autonomie sans réserve.

La tension est réelle. Le marché récompense aujourd'hui les agents qui accomplissent des tâches de bout en bout sans supervision, précisément l'inverse de ce que le texte impose. Une startup comme Delos vante ses « employés numériques » qui « travaillent sans avoir besoin d'être relancés » ; le code de Microsoft, lui, demande qu'un opérateur puisse à tout moment reprendre la main. Les deux visions ne sont pas incompatibles sur le papier — on peut être autonome et interruptible — mais elles tirent la conception des produits dans des directions opposées, et le curseur retenu déterminera qui, du confort d'usage ou de la sécurité, l'emporte en cas de conflit.

Un garde-fou revendiqué, pas un renoncement à la course

Il serait faux d'y voir un renoncement à la puissance. Microsoft dit travailler à une « Humanist Superintelligence », soit des capacités très avancées assorties de limites sur leur autonomie. La maîtrise de systèmes dépassant l'humain dans de nombreux domaines est même présentée comme l'un des grands défis technologiques de la décennie. La nuance : l'augmentation des capacités doit s'accompagner de mécanismes de contrôle effectifs, et le groupe dit préférer des systèmes « soigneusement calibrés » à une IA sans périmètre.

Ce code n'a pour l'instant aucune valeur contraignante : il n'est pas encore utilisé pour entraîner les modèles et reste un projet soumis à consultation. Il s'inscrit néanmoins dans un mouvement plus large d'autorégulation des grands laboratoires, alors que ceux-ci discutent d'un organisme commun de standards de sécurité et que l'Europe pousse, avec l'offre de « ralentissement » de Von der Leyen, une approche plus contraignante. La question qui reste ouverte est celle de la crédibilité : un code que l'entreprise s'impose elle-même, révisable à sa main et sans autorité extérieure pour le vérifier, vaut ce que valent les incitations de son auteur à le respecter le jour où il entrera en conflit avec le marché.