Microsoft licencie son équipe chargée de l'éthique IA, tandis que l'entreprise accélère son avancée dans les produits d'IA

L'équipe dédiée à l’éthique de l’intelligence artificielle fait partie des 10 000 personnes licenciées par Microsoft, selon les informations de Platformer. Une décision qui a lieu au moment même où la société accélère dans sa volonté de rendre des outils d’IA accessibles au grand public. Cette décision laisse Microsoft sans équipe dédiée pour s'assurer que ses principes d'IA sont étroitement liés à la conception de produits à un moment où l'entreprise mène la charge pour mettre les outils d'IA à la disposition du grand public, ont déclaré les employés actuels et anciens.

Microsoft a licencié toute son équipe chargée d'assurer l'utilisation éthique des logiciels d'IA à un moment où la grande enseigne du logiciel intensifiait son utilisation de la technologie d'apprentissage automatique. Microsoft s'est débarrassé de l'équipe éthique et société, qui était au sein de son organisation d'intelligence artificielle, dans le cadre des 10 000 suppressions d'emplois que l'entreprise a annoncées et qui se poursuivront jusqu'à l'année prochaine.

Le coup porté à cette unité particulière pourrait supprimer certaines barrières de sécurité destinées à garantir que les produits de Microsoft qui intègrent des fonctionnalités d'apprentissage automatique respectent les normes de la méga-corporation en matière d'utilisation éthique de l'IA. Et cela survient alors que la discussion fait rage sur les effets des modèles controversés d'intelligence artificielle sur la société dans son ensemble.

Comment cela s'est-il déroulé

Microsoft maintient toujours un Office of Responsible AI actif, qui est chargé de créer des règles et des principes pour régir les initiatives d'IA de l'entreprise. L'entreprise affirme que son investissement global dans le travail de responsabilité augmente malgré les récentes mises à pied.

« Microsoft s'engage à développer des produits et des expériences d'IA de manière sûre et responsable, et le fait en investissant dans des personnes, des processus et des partenariats qui en font la priorité », a déclaré la société dans un communiqué. « Au cours des six dernières années, nous avons augmenté le nombre de personnes au sein de nos équipes de produits et au sein du Bureau de l'IA responsable qui, avec nous tous chez Microsoft, sont responsables de la mise en pratique de nos principes d'IA. […] Nous apprécions le travail de pionnier que l'équipe d'éthique et de société a fait pour nous aider dans notre parcours continu d'IA responsable ».

Mais les employés ont déclaré que l'équipe d'éthique et de société avait joué un rôle essentiel en veillant à ce que les principes d'IA responsable de l'entreprise se reflètent réellement dans la conception des produits expédiés.

« Les gens regardaient les principes émanant du bureau de l'IA responsable et disaient : "Je ne sais pas comment cela s'applique"», a déclaré un ancien employé. « Notre travail consistait à leur montrer et à créer des règles dans des domaines où il n'y en avait pas ».

Ces dernières années, l'équipe a conçu un jeu de rôle appelé Judgment Call qui a aidé les concepteurs à imaginer les dommages potentiels pouvant résulter de l'IA et à en discuter lors du développement du produit. Cela faisait partie d'une « boîte à outils d'innovation responsable » plus vaste que l'équipe a publiée publiquement.

Plus récemment, l'équipe s'est efforcée d'identifier les risques posés par l'adoption par Microsoft de la technologie OpenAI dans sa suite de produits. L'équipe éthique et société était à son apogée en 2020, alors qu'elle comptait environ 30 employés, dont des ingénieurs, des designers et des philosophes. En octobre, l'équipe a été réduite à environ sept personnes dans le cadre d'une réorganisation.

Lors d'une réunion avec l'équipe après la réorganisation, John Montgomery, vice-président d'AI, a déclaré aux employés que les dirigeants de l'entreprise leur avaient demandé d'agir rapidement. « La pression de [CTO] Kevin [Scott] et [CEO] Satya [Nadella] est très très élevée pour incorporer ces modèles openAI les plus récents et ceux qui les suivent et les mettre entre les mains des clients à très grande vitesse » a-t-il dit, selon l'audio de la réunion obtenu par Platformer.

En raison de cette pression, a déclaré Montgomery, une grande partie de l'équipe allait être déplacée vers d'autres domaines de l'organisation.

Certains membres de l'équipe ont résisté : « Je vais être assez audacieux et vous demander de bien vouloir reconsidérer cette décision », a déclaré un employé lors de l'appel. « Bien que je comprenne qu'il y a des problèmes commerciaux en jeu… ce dont cette équipe a toujours été profondément préoccupée, c'est notre impact sur la société et les impacts négatifs que nous avons eus. Et ils sont significatifs ».

Montgomery a refusé. « Puis-je reconsidérer la décision ? Je ne pense pas que je le ferai », a-t-il déclaré. « Parce que malheureusement les pressions restent les mêmes. Vous n'avez pas le point de vue que j'ai, et vous pouvez probablement en être reconnaissant. Il y a beaucoup de choses qui sont broyées dans la saucisse ».

En réponse aux questions, cependant, Montgomery a déclaré que l'équipe ne serait pas supprimée. « Ce n'est pas qu'elle s'en va, c'est qu'elle évolue », a-t-il déclaré. « Elle évolue vers une plus grande énergie au sein des équipes de produits individuelles qui créent les services et les logiciels, ce qui signifie que le hub central qui a effectué une partie du travail délègue ses capacités et ses responsabilités ».

La plupart des membres de l'équipe ont été transférés ailleurs au sein de Microsoft. Par la suite, les membres restants de l'équipe d'éthique et de société ont déclaré que l'équipage réduit rendait difficile la mise en œuvre de leurs plans ambitieux. Environ cinq mois plus tard, le 6 mars, les employés restants ont été invités à se joindre à un appel Teams à 11h30 PT pour entendre une « mise à jour critique de l'entreprise » de Montgomery. Au cours de la réunion, on leur a dit que leur équipe était finalement supprimée.

Un employé affirme que cette décision laisse un vide fondamental dans l'expérience utilisateur et la conception holistique des produits d'IA. « Le pire, c'est que nous avons exposé l'entreprise à des risques et les êtres humains à des risques en faisant cela », ont-ils expliqué.

Le conflit souligne une tension continue pour les grandes enseigne de la technologie qui créent des divisions dédiées à rendre leurs produits plus socialement responsables. Au mieux, ils aident les équipes produit à anticiper les utilisations abusives potentielles de la technologie et à résoudre les problèmes avant leur livraison.

Mais ils ont aussi pour tâche de dire «*non*» ou de «*ralentir*» au sein d'organisations qui souvent ne veulent pas l'entendre - ou d'énoncer les risques qui pourraient entraîner des maux de tête juridiques pour l'entreprise s'ils faisaient surface lors d'une découverte juridique. Et les frictions...[/nadella][/ceo][/scott][/cto]