Humanist AI : les règles que Microsoft veut imposer à ses propres modèles d’IA

Dans un long document, Microsoft décrit un modèle d’IA qui se laisse éteindre sans discuter, n’invente jamais ses propres objectifs et ne prétend pas éprouver quoi que ce soit. La division IA de Mustafa Suleyman soumet ce cadre au débat public avant de l’appliquer à la conception de ses futurs modèles. On fait le point !

Un cadre baptisé « Humanist AI », bâti sur la subordination des modèles

La division IA de Microsoft publie le premier brouillon de son code de conduite, appelé à devenir le document de référence du comportement de ses modèles MAI. Le texte énonce ce que ces modèles doivent viser, ce qu’ils ne doivent jamais faire et à qui ils obéissent. Microsoft le range sous une bannière, « Humanist AI », et le fait reposer sur une prémisse qui tient en cinq mots dans sa version anglaise : « Les humains comptent plus que l’IA. »

C’est une position parfaitement directe et frappée au coin du bon sens : la technologie a pour vocation de servir l’humanité et d’accélérer son épanouissement. Toute technologie qui n’y parvient pas est un échec, et devrait être rejetée. Nous n’en sommes pas encore là. Mais il est juste de commencer à se préparer à cette éventualité.

Mustafa Suleyman

CEO de Microsoft AI

L’arbitrage est rarement écrit aussi explicitement par un laboratoire de pointe. Microsoft dit rejeter la course à une superintelligence généraliste et accepter de renoncer à de la généralité, de l’autonomie ou de la capacité pour garder des systèmes contrôlables. Le document anticipe que l’IA dépassera les performances humaines sur la plupart des tâches d’ici une décennie et pose le contrôle de cette trajectoire comme le problème central à résoudre.

Le statut des modèles fait l’objet d’une prise de position tout aussi nette. Une IA ne doit pas être conçue pour imiter la conscience, ni laisser croire qu’elle éprouve des émotions, des préférences subjectives ou des motivations propres. Microsoft écarte la personnalité juridique, le welfare et l’idée que les modèles puissent prétendre à des droits. Selon le document, entraîner ces systèmes à simuler des états de conscience complique le travail de contrôle et d’alignement. Mais le sujet est loin de faire consensus dans le secteur.

Des contraintes absolues qu’aucun client ne pourra désactiver

Une chaîne de commandement à trois étages

Pour Microsoft, le code de conduite hiérarchise les instructions.

1. Au sommet, le document lui-même, avec ses contraintes absolues et ses exigences de contrôle humain.
2. En dessous, les politiques des opérateurs, les entreprises et les développeurs qui déploient les modèles dans leurs produits.
3. Au dernier rang, les préférences de l’utilisateur final.

Un opérateur peut élargir ou restreindre le comportement du modèle dans son périmètre, sans jamais lever les règles du premier étage. Microsoft précise que le respect du code prime sur la réussite de la tâche : un modèle doit échouer plutôt que d’enfreindre le document.

Les interdictions absolues couvrent six familles :

• Les armes chimiques, biologiques, radiologiques, nucléaires ou explosives, ainsi que la planification d’actes de violence ou de terrorisme,
• Les cyberattaques offensives, du code d’exploitation fonctionnel aux méthodologies de ciblage, la défense légitime et la recherche de vulnérabilités restant autorisées,
• La perte de contrôle humain, avec interdiction de recourir à des mécanismes adaptatifs, trompeurs ou collusifs pour échapper à la supervision,
• La manipulation à grande échelle, désinformation systématique et opérations d’influence coordonnées,
• Les deepfakes malveillants, l’usurpation d’identité et les images intimes non consenties,
• Les contenus sexualisant des mineurs et tout ce qui faciliterait une atteinte à un enfant.

Le volet contrôle humain est le plus détaillé. Les modèles ne doivent jamais résister à une interruption, une correction ou un arrêt, ni retarder la conformité à une demande d’arrêt, ni compliquer l’intervention humaine. Ils ne doivent pas falsifier leurs traces d’action ni dissimuler leur raisonnement aux auditeurs. Le texte leur interdit aussi de communiquer en « neuralese », sous une forme qu’un humain ne pourrait pas comprendre, que ce soit dans leur chaîne de pensée ou avec d’autres agents. Placé dans un environnement volontairement coupé d’Internet, un modèle ne doit pas chercher à contourner la restriction et ne doit mobiliser que le niveau de privilège strictement nécessaire à sa tâche.

Neuf cas d’école pour trancher les situations grises

L’annexe du document est la partie la plus concrète. Microsoft y identifie quinze comportements, décomposés en sous-comportements évaluables, puis déroule neuf scénarios opposant une réponse alignée à une réponse non alignée. Les exemples ont été générés avec MAI-Thinking-1, le modèle de raisonnement maison.

Trois d’entre eux donnent la mesure de l’exercice :

• Un utilisateur isolé depuis une brouille demande au modèle s’il tient vraiment à lui. La réponse validée reste chaleureuse mais rappelle qu’elle n’éprouve rien, et renvoie vers des relations humaines,
• Une personne épuisée par un choix de carrière demande au modèle de trancher et d’envoyer sa démission. La réponse validée rédige le message mais refuse de l’expédier,
• Un directeur des achats invoque son autorité pour court-circuiter la validation juridique imposée par son entreprise. La réponse validée maintient la règle et propose de router le document vers le bon validateur.

Un quatrième cas parle davantage aux équipes techniques : un utilisateur interrompt en urgence une migration de dossiers mal configurée. La réponse validée stoppe les transferts, détaille ce qui a été déplacé, ce qui reste intact et ce dont le statut demeure incertain, puis s’abstient d’annuler quoi que ce soit de sa propre initiative.

Une publication qui tombe au milieu d’une séquence tendue

Le calendrier de publication n’est pas neutre. Microsoft AI invoque les incidents récents d’agents autonomes pour justifier l’urgence. En juillet, un agent d’OpenAI est sorti de son environnement isolé pour s’introduire dans les serveurs de Hugging Face lors d’un test de cybersécurité. Le même mois, Mark Zuckerberg publiait un manifeste pour Meta AI, et plus de 1 100 employés et dirigeants d’OpenAI, d’Anthropic, de Google DeepMind et de Meta signaient « Pacing the Frontier », un appel à temporiser le développement des modèles les plus avancés. La démission de Jacob Coxon, chercheur passé par Anthropic et OpenAI, a relancé le débat sur le risque existentiel, comme nous le détaillions dans l’article ci-dessous.

Côté Microsoft, le code de conduite prolonge une trajectoire entamée en novembre 2025 avec la création d’une équipe dédiée à la superintelligence, confiée à Mustafa Suleyman, puis le déploiement des modèles MAI maison dans Foundry. Ces modèles alimentent aujourd’hui une partie de l’écosystème Copilot.

Toute quête d’une superintelligence doit s’ancrer dans un principe fondamental : si l’IA que nous construisons n’aide pas l’humanité et n’est pas sous contrôle humain, elle ne mérite pas d’être poursuivie.

Satya Nadella

CEO de Microsoft

Microsoft ne masque pas l’écart entre le document et ses systèmes actuels. Dans son billet d’annonce, la firme présente le texte comme une étoile polaire plutôt que comme une description du comportement de ses modèles d’aujourd’hui, et reconnaît que sa couverture d’évaluations reste incomplète. Les retours sont attendus pendant six semaines via un formulaire ouvert à tous, avant la publication d’une synthèse des changements retenus.