Microsoft a récemment dévoilé un projet de nouveau « Code de conduite pour une IA humaniste » qui définit les principes qui régiront le développement de ses modèles d’IA, dans le but de recueillir des retours avant de publier une version révisée dans le courant de l’année. Les principes énoncés dans ce nouveau projet « guideront le développement de nos modèles en 2027 et au-delà », et l’annonce de Microsoft précise que l’entreprise mènera « des processus de consultation similaires à mesure que nous élaborerons de nouvelles versions du code de conduite au fil du temps ». Microsoft a indiqué que lorsqu’elle a lancé ses travaux sur la superintelligence en novembre 2025, elle l’a fait en gardant à l’esprit des principes humanistes visant à permettre à l’humanité de garder le contrôle sur l’IA avancée grâce à la manière dont celle-ci est calibrée, contextualisée et limitée par les développeurs. Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime qu'il y a plus de 10 % de chances que l’intelligence artificielle (IA) extermine toute l’humanité d’ici dix ans. Cette déclaration fracassante, publiée le mardi 8 septembre 2026 au soir sur X, fait suite à la démission de Jacob Coxon, chercheur en IA chez Anthropic, et à son avertissement selon lequel les dirigeants et chercheurs de haut niveau des laboratoires d'IA expriment leurs craintes en privé tout en adoucissant leur discours à l’intention de la presse. Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d’en garantir le contrôle restent insuffisants.
Dans ce contexte, Microsoft a récemment dévoilé un projet de nouveau « Code de conduite pour une IA humaniste » qui définit les principes qui régiront le développement de ses modèles d’IA, dans le but de recueillir des retours avant de publier une version révisée dans le courant de l’année. L’entreprise a indiqué que le « Code de conduite pour une IA humaniste » tiendra compte des retours reçus sur ce projet au cours des six prochaines semaines ; ceux-ci seront intégrés à la version révisée qui sera publiée avant la fin de l’année et guideront le développement des modèles Microsoft AI (MAI).
Microsoft AI (MAI) est un laboratoire américain de recherche en intelligence artificielle (IA) qui fait partie de Microsoft. Il supervise les produits d'intelligence artificielle destinés au grand public. En novembre 2025, MAI a annoncé la création d’une division et d’une équipe dédiées à la superintelligence, dirigées par Mustafa Suleyman, avec pour vision une superintelligence humaniste comportant trois applications principales : servir de compagnon IA pour aider les personnes à apprendre, à agir, à être productives et à se sentir soutenues ; offrir une assistance dans le secteur de la santé ; et réaliser de « nouvelles percées scientifiques » dans le domaine des énergies propres. En juin 2026, MAI a lancé 7 nouveaux modèles développés en interne, dont le MAI-Image-2.5 et le MAI-Code-1-Flash, ainsi que 5 autres.
Les principes énoncés dans ce nouveau projet « guideront le développement de nos modèles en 2027 et au-delà », et l’annonce de Microsoft précise que l’entreprise mènera « des processus de consultation similaires à mesure que nous élaborerons de nouvelles versions du code de conduite au fil du temps ». « Ce Code de conduite est motivé par un objectif primordial : les humains doivent conserver un contrôle significatif sur l’IA afin qu’elle puisse aider les personnes à mener une vie plus saine, plus heureuse et plus productive. Il s’agit du principal document de référence qui définit la manière dont nous entraînons les modèles MAI, les contrôles techniques, les systèmes opérationnels et de surveillance que nous mettons en œuvre, ainsi que la culture d’entreprise qui sous-tend tout cela », a écrit l’entreprise.
« Chez Microsoft AI, nous partons d’un principe simple : les personnes comptent plus que l’IA. La technologie a pour but de faire progresser la civilisation humaine et d’accélérer son épanouissement. La science et la technologie sont le moteur du progrès humain depuis des millénaires, apportant d’immenses bienfaits à des milliards de personnes », a écrit l’entreprise. « C’est ce que nous attendons de l’IA et ce que nous souhaitons en faire », a ajouté Microsoft, précisant que « pour y parvenir, nous devons concevoir nos systèmes avec soin et intention, en définissant clairement à l’avance nos buts et objectifs ».
Microsoft a indiqué que lorsqu’elle a lancé ses travaux sur la superintelligence en novembre 2025, elle l’a fait en gardant à l’esprit des principes humanistes visant à permettre à l’humanité de garder le contrôle sur l’IA avancée grâce à la manière dont celle-ci est calibrée, contextualisée et limitée par les développeurs. « La superintelligence – ces systèmes d’IA plus intelligents et plus performants que l’ensemble des êtres humains réunis – sera la technologie la plus puissante de l’histoire. Au cours de la prochaine décennie, nous nous attendons à ce qu’elle surpasse les performances humaines dans la plupart des tâches », a écrit Microsoft dans le projet de code de conduite.
« Maîtriser, contrôler et orienter une force aussi puissante constitue l’un des plus grands défis auxquels l’humanité ait jamais été confrontée. Nous devons donc être tout à fait clairs sur les raisons pour lesquelles nous inventons ces systèmes et sur la manière dont nous comptons les contrôler. » « Définir ce qu’ils ne doivent pas faire est tout aussi important que l’enthousiasme et l’optimisme que suscitent les immenses avantages qu’ils apporteront », a poursuivi l’entreprise.
Microsoft a élaboré ce projet de code de conduite, qui compte 37 pages au total, au cours des cinq à six derniers mois. Sa publication intervient alors que les dirigeants de grands laboratoires d’IA – Sam Altman, PDG d’OpenAI, et Dario Amodei, PDG d’Anthropic – se sont exprimés en faveur d’un renforcement de la supervision par des tiers du développement des modèles d’IA afin d’en garantir l’alignement.
Mustafa Suleyman, PDG de Microsoft AI, a déclaré lors d’une interview qu’il était « clairement temps désormais de coordonner les efforts entre les laboratoires afin de nous assurer que nous maîtrisons cette technologie ». Interrogé sur les efforts visant à modérer le rythme de développement de l’IA, Suleyman a ajouté : « C’est le bon moment pour que tout le monde ait cette conversation et prenne un peu de recul. »
Avec tous ces évènements, l'ancienne présidente de la FTC, Lina Khan, a déclaré que les lois américaines en vigueur confèrent déjà aux autorités le pouvoir de tenir les entreprises d'IA et leurs dirigeants pour responsables de la mise sur le marché de produits dangereux, non testés ou défectueux. Elle a souligné que les débats sur de nouvelles réglementations ne devaient pas détourner l'attention de l'application des lois existantes.« Nous ne devons pas laisser les débats sur de nouveaux régimes juridiques nous faire oublier qu'il n'existe aucune exemption pour l'IA par rapport aux lois déjà en vigueur », a-t-elle déclaré. Elle a également mis en garde contre les risques liés à la cybersécurité et les préoccupations en matière de concurrence dans le secteur.
Voici la présentation du code de conduite :
IA humaniste : Code de conduite
Ce document servira à encadrer et à régir la famille de modèles développés par Microsoft AI (voir le glossaire pour les définitions). Il codifie notre approche en matière de développement et de déploiement d’une IA humaniste, et définit les comportements attendus, les valeurs et les garde-fous applicables à nos modèles.
Ce code de conduite est motivé par un objectif primordial : les humains doivent conserver un contrôle significatif sur l’IA afin qu’elle puisse aider les personnes à mener une vie plus saine, plus heureuse et plus productive. Il s’agit du principal document de référence qui définit la manière dont nous formons les modèles MAI, les contrôles techniques, les systèmes opérationnels et de surveillance que nous mettons en œuvre, ainsi que la culture organisationnelle qui sous-tend l’ensemble de ces éléments. Nous utiliserons donc ce code de conduite pour évaluer et affiner les performances de nos modèles.
Ce Code de conduite s’adresse à un large public : les utilisateurs et les opérateurs, ainsi que les chercheurs, les gouvernements, le grand public et notre équipe chargée de l’entraînement des modèles actuels et futurs chez Microsoft AI. Il offre à chacun un aperçu des principes qui guident nos décisions de conception alors que nous devons gérer les compromis et les choix liés au comportement d’un modèle et aux valeurs qui le sous-tendent. Il s’inscrit dans le prolongement des cadres juridiques, stratégiques et de gouvernance de Microsoft. Ce Code de conduite s’appuie sur les Principes d’IA responsable de Microsoft, la Norme d’IA responsable, la Déclaration mondiale sur les droits de l’homme et, le cas échéant, le Cadre de gouvernance Frontier (la liste complète figure dans le glossaire ; collectivement, le « Cadre de référence »). Conjointement avec ces documents et parallèlement à la documentation technique telle que les fiches de modèles et les rapports techniques, le Code de conduite définit les intentions de Microsoft concernant le déploiement de nos modèles d’IA.
Le Code de conduite est structuré comme suit :
- La partie 1 présente la mission de Microsoft AI et les objectifs généraux de l’IA humaniste qui guident la manière dont nous entendons concevoir, évaluer et déployer nos modèles.
- La partie 2 présente les règles et les contraintes de sécurité dans lesquelles s’inscrivent les modèles MAI.
- La partie 3 présente les directives opérationnelles régissant la manière dont les modèles MAI agissent en situation d’incertitude et dont ils concilient des objectifs contradictoires.
- La partie 4 présente les paramètres par défaut qui s’appliquent sauf modification par un opérateur.
- La partie 5 contient la conclusion. Elle détaille la manière dont nous avons élaboré ce document, les axes de travail à approfondir et les questions en suspens. Les annexes comprennent un glossaire des termes utilisés tout au long du code de conduite (annexe A), ainsi que des détails supplémentaires sur la manière dont nous comptons évaluer nos modèles (annexe B).
Le Code de conduite est un fil conducteur pour les modèles MAI et notre organisation. Il est conçu pour être simple, efficace et robuste dans le monde réel. Il évoluera pour s’adapter aux nouvelles possibilités technologiques, aux réalités sociales et aux enseignements que nous en tirons, en particulier à mesure que les capacités dépasseront les performances humaines dans de nombreux domaines.
Nos modèles sont au service de multiples parties dont les rôles, l’autorité et les responsabilités sont définis par la chaîne de commandement détaillée dans la partie 2. Cette hiérarchie garantit que le comportement de nos modèles reste conforme à nos objectifs.
Comme toutes les créations humaines, l’IA reflète les personnes qui la conçoivent, la diversité des connaissances humaines dont elle est issue et la société au sens large dans laquelle elle est développée. Nous estimons que ceux qui créent l’IA ont la responsabilité de refléter les idées et les points de vue d’un groupe plus large que celui de ses seuls développeurs. Les décisions concernant le comportement de ces modèles et les personnes qu’ils servent doivent s’appuyer sur une pluralité de points de vue. Nous avons donc puisé dans un large éventail d’expertises humaines pour rédiger ce document, en intégrant une expertise technique étendue, ainsi que les traditions de la recherche, de la culture, de la sagesse et de la pratique. Nous nous engageons à rendre ce processus ouvert, participatif et façonné par un dialogue constructif. Vous trouverez plus d’informations sur notre approche en matière d’engagement et de sensibilisation dans la partie 5.
Conclusion, questions en suspens et travaux à venir
Dans le Code de conduite, nous avons défini les objectifs et les comportements modèles attendus pour une IA humaniste. Ce document se veut clair et directif, et précise tout aussi clairement ce qu’il couvre et ce qu’il ne couvre pas.
Il s’agit d’un document évolutif qui nécessite encore des travaux supplémentaires. Cette version présente une couverture d’évaluation incomplète et, malgré un travail approfondi mené en interne et en externe, comporte inévitablement des lacunes et des domaines qui pourraient être développés de différentes manières. Nous reconnaissons également que, pour mieux comprendre comment les objectifs sont atteints, une évaluation longitudinale est nécessaire afin d’examiner comment une interaction avec les modèles d’IA humaniste peut pérenniser les capacités et les interactions sociétales au sens large au fil du temps.
Certaines questions en suspens méritent par ailleurs un débat plus large : par exemple, sur la manière dont nous définissons et comprenons le pluralisme ; sur notre conception de l’épanouissement...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.