Microsoft licencie son équipe chargée de l'éthique IA, tandis que l'entreprise accélère son avancée dans les produits d'IA

L'équipe dédiée à l’éthique de l’intelligence artificielle fait partie des 10 000 personnes licenciées par Microsoft, selon les informations de Platformer. Une décision qui a lieu au moment même où la société accélère dans sa volonté de rendre des outils d’IA accessibles au grand public. Cette décision laisse Microsoft sans équipe dédiée pour s'assurer que ses principes d'IA sont étroitement liés à la conception de produits à un moment où l'entreprise mène la charge pour mettre les outils d'IA à la disposition du grand public, ont déclaré les employés actuels et anciens.

Microsoft a licencié toute son équipe chargée d'assurer l'utilisation éthique des logiciels d'IA à un moment où la grande enseigne du logiciel intensifiait son utilisation de la technologie d'apprentissage automatique. Microsoft s'est débarrassé de l'équipe éthique et société, qui était au sein de son organisation d'intelligence artificielle, dans le cadre des 10 000 suppressions d'emplois que l'entreprise a annoncées et qui se poursuivront jusqu'à l'année prochaine.

Le coup porté à cette unité particulière pourrait supprimer certaines barrières de sécurité destinées à garantir que les produits de Microsoft qui intègrent des fonctionnalités d'apprentissage automatique respectent les normes de la méga-corporation en matière d'utilisation éthique de l'IA. Et cela survient alors que la discussion fait rage sur les effets des modèles controversés d'intelligence artificielle sur la société dans son ensemble.

Comment cela s'est-il déroulé

Microsoft maintient toujours un Office of Responsible AI actif, qui est chargé de créer des règles et des principes pour régir les initiatives d'IA de l'entreprise. L'entreprise affirme que son investissement global dans le travail de responsabilité augmente malgré les récentes mises à pied.

« Microsoft s'engage à développer des produits et des expériences d'IA de manière sûre et responsable, et le fait en investissant dans des personnes, des processus et des partenariats qui en font la priorité », a déclaré la société dans un communiqué. « Au cours des six dernières années, nous avons augmenté le nombre de personnes au sein de nos équipes de produits et au sein du Bureau de l'IA responsable qui, avec nous tous chez Microsoft, sont responsables de la mise en pratique de nos principes d'IA. […] Nous apprécions le travail de pionnier que l'équipe d'éthique et de société a fait pour nous aider dans notre parcours continu d'IA responsable ».

Mais les employés ont déclaré que l'équipe d'éthique et de société avait joué un rôle essentiel en veillant à ce que les principes d'IA responsable de l'entreprise se reflètent réellement dans la conception des produits expédiés.

« Les gens regardaient les principes émanant du bureau de l'IA responsable et disaient : "Je ne sais pas comment cela s'applique"», a déclaré un ancien employé. « Notre travail consistait à leur montrer et à créer des règles dans des domaines où il n'y en avait pas ».

Ces dernières années, l'équipe a conçu un jeu de rôle appelé Judgment Call qui a aidé les concepteurs à imaginer les dommages potentiels pouvant résulter de l'IA et à en discuter lors du développement du produit. Cela faisait partie d'une « boîte à outils d'innovation responsable » plus vaste que l'équipe a publiée publiquement.

Plus récemment, l'équipe s'est efforcée d'identifier les risques posés par l'adoption par Microsoft de la technologie OpenAI dans sa suite de produits. L'équipe éthique et société était à son apogée en 2020, alors qu'elle comptait environ 30 employés, dont des ingénieurs, des designers et des philosophes. En octobre, l'équipe a été réduite à environ sept personnes dans le cadre d'une réorganisation.

Lors d'une réunion avec l'équipe après la réorganisation, John Montgomery, vice-président d'AI, a déclaré aux employés que les dirigeants de l'entreprise leur avaient demandé d'agir rapidement. « La pression de [CTO] Kevin [Scott] et [CEO] Satya [Nadella] est très très élevée pour incorporer ces modèles openAI les plus récents et ceux qui les suivent et les mettre entre les mains des clients à très grande vitesse » a-t-il dit, selon l'audio de la réunion obtenu par Platformer.

En raison de cette pression, a déclaré Montgomery, une grande partie de l'équipe allait être déplacée vers d'autres domaines de l'organisation.

Certains membres de l'équipe ont résisté : « Je vais être assez audacieux et vous demander de bien vouloir reconsidérer cette décision », a déclaré un employé lors de l'appel. « Bien que je comprenne qu'il y a des problèmes commerciaux en jeu… ce dont cette équipe a toujours été profondément préoccupée, c'est notre impact sur la société et les impacts négatifs que nous avons eus. Et ils sont significatifs ».

Montgomery a refusé. « Puis-je reconsidérer la décision ? Je ne pense pas que je le ferai », a-t-il déclaré. « Parce que malheureusement les pressions restent les mêmes. Vous n'avez pas le point de vue que j'ai, et vous pouvez probablement en être reconnaissant. Il y a beaucoup de choses qui sont broyées dans la saucisse ».

En réponse aux questions, cependant, Montgomery a déclaré que l'équipe ne serait pas supprimée. « Ce n'est pas qu'elle s'en va, c'est qu'elle évolue », a-t-il déclaré. « Elle évolue vers une plus grande énergie au sein des équipes de produits individuelles qui créent les services et les logiciels, ce qui signifie que le hub central qui a effectué une partie du travail délègue ses capacités et ses responsabilités ».

La plupart des membres de l'équipe ont été transférés ailleurs au sein de Microsoft. Par la suite, les membres restants de l'équipe d'éthique et de société ont déclaré que l'équipage réduit rendait difficile la mise en œuvre de leurs plans ambitieux. Environ cinq mois plus tard, le 6 mars, les employés restants ont été invités à se joindre à un appel Teams à 11h30 PT pour entendre une « mise à jour critique de l'entreprise » de Montgomery. Au cours de la réunion, on leur a dit que leur équipe était finalement supprimée.

Un employé affirme que cette décision laisse un vide fondamental dans l'expérience utilisateur et la conception holistique des produits d'IA. « Le pire, c'est que nous avons exposé l'entreprise à des risques et les êtres humains à des risques en faisant cela », ont-ils expliqué.

Le conflit souligne une tension continue pour les grandes enseigne de la technologie qui créent des divisions dédiées à rendre leurs produits plus socialement responsables. Au mieux, ils aident les équipes produit à anticiper les utilisations abusives potentielles de la technologie et à résoudre les problèmes avant leur livraison.

Mais ils ont aussi pour tâche de dire «*non*» ou de «*ralentir*» au sein d'organisations qui souvent ne veulent pas l'entendre - ou d'énoncer les risques qui pourraient entraîner des maux de tête juridiques pour l'entreprise s'ils faisaient surface lors d'une découverte juridique. Et les frictions qui en résultent débordent parfois sur le devant de la scène publique.

De gros enjeux : damer le pion à Google

Microsoft peut maintenant avoir une chance unique sur une génération de gagner une traction significative contre Google dans la recherche, les logiciels de productivité, le cloud computing et d'autres domaines où les grandes enseignes sont en concurrence. Lorsque Microsoft a lancé son Bing nouvelle génération qui s'appuie sur l'IA, la société a déclaré aux investisseurs que chaque 1% de part de marché qu'elle pourrait retirer à Google dans la recherche se traduirait par un revenu annuel de 2 milliards de dollars.

Ce potentiel explique pourquoi Microsoft a jusqu'à présent investi 11 milliards de dollars dans OpenAI et s'efforce actuellement d'intégrer la technologie de la startup dans tous les coins de son empire. Elle semble d'ailleurs avoir un certain succès : la société a déclaré que Bing comptait désormais 100 millions d'utilisateurs actifs quotidiens, dont un tiers de nouveaux depuis que le moteur de recherche a été relancé avec la technologie d'OpenAI.


[SPOILER][/SPOILER]

Pour Bill Gates, l'essor de l'IA menace les bénéfices que Google tire de son moteur de recherche

Dans une interview, Bill Gates a abordé le sujet de l'IA, estimant que Google devrait bientôt perdre une partie des bénéfices qu'il tire de son moteur de recherche au profit de Microsoft. Selon lui, c'est une chose qui va arriver, car Microsoft a beaucoup investi dans le domaine de l'IA ces dernières années et a réalisé de grands progrès. Lors de l'interview, Bill Gates a expliqué : « Google a possédé tous les bénéfices de la recherche, donc les bénéfices de la recherche seront en baisse, et leur part pourrait être en baisse parce que Microsoft a été capable d'avancer assez rapidement sur ce point ».

Pour rappel, Google a affiché 224 milliards de dollars de revenus publicitaires en 2022, ce qui représente plus de douze fois les revenus publicitaires de Microsoft sur la même période, soit 18 milliards de dollars. Google a dominé la recherche au cours des deux dernières décennies et, selon le cabinet d'analyse Statcounter, il représente environ 93 % du marché mondial des moteurs de recherche, tandis que Bing en représente environ 3 %. Les commentaires Bill Gates sont intervenus deux semaines après que Microsoft a dévoilé une version de Bing pilotée par l'IA, qui se pose en challenger de la domination de Google dans le domaine de la recherche.

Il est encore trop tôt pour évaluer les impacts de ce lancement sur le moteur de recherche de Microsoft, mais il est important de rappeler que Google voit ChatGPT comme une « menace », et ce depuis son lancement. ChatGPT a attiré plus 100 millions d'utilisateurs en moins de deux mois, et Microsoft espère que Bing, qui intègre désormais les capacités du chatbot d'OpenAI, suscite le même attrait. Toutefois, Google n'entend pas rester les bras croisés. L'entreprise a lancé dans la foulée un chatbot d'IA appelé Bard pour répondre aux développements agressifs de Microsoft. Bing Chat et Bard sont tous deux ouverts aux utilisateurs pour qu'ils puissent les tester.

Lors de l'interview, Bill Gates a admis avoir été surpris par la façon dont le développement de l'IA s'est accéléré l'année dernière et a déclaré que ce sera « la plus grande chose de cette décennie ». Selon lui, pour que l'intégration de l'IA dans les moteurs de recherches réussisse, elle doit être un « agent personnel » qui comprendrait les besoins et le style des utilisateurs et remplacerait les services distincts de différentes entreprises technologiques - comme c'est le cas actuellement avec Google qui domine la recherche, Amazon qui s'occupe des achats, Microsoft qui possède les outils de productivité et Apple qui domine le marché des appareils mobiles.

« Dans dix ans, nous ne considérerons plus ces activités comme distinctes parce que l'IA vous connaîtra si bien que, lorsque vous achèterez des cadeaux ou planifierez des voyages, elle se moquera de savoir si Amazon a le meilleur prix, si quelqu'un d'autre a un meilleur prix - vous n'aurez même pas besoin d'y penser. Il s'agit donc d'un remaniement potentiel assez spectaculaire de la façon dont les marchés technologiques se présentent », a déclaré Bill Gates. Il a également déclaré qu'il n'était pas sûr qu'un acteur spécifique ressorte gagnant de la course à l'IA, mais certains pensent que Microsoft est actuellement à la tête du peloton.

Conclusion

Toutes les personnes impliquées dans le développement de l'IA conviennent que la technologie présente des risques puissants et peut-être existentiels, connus et inconnus. Les géants de la technologie ont pris soin de signaler qu'ils prennent ces risques au sérieux. Par exemple, Microsoft à lui seul a trois groupes différents travaillant sur la question, même après l'élimination de l'équipe éthique et société. Mais compte tenu des enjeux, toute réduction d'équipes axées sur le travail responsable semble digne de mention.

L’affaire rappelle aussi le licenciement de Timnit Gebru puis Margaret Mitchell, alors à la tête de la cellule en charge de l’éthique de l’intelligence artificielle chez Google, en 2020, puisque celui-ci avait eu lieu juste après qu’elles proposent un papier de recherche critiquant les effets sociaux et environnementaux de certaines de ces technologies.


Plusieurs employés ont témoigné de la très forte pression effectuée par la direction de Microsoft pour sortir le plus rapidement possible des outils IA à l'intention du grand public. Mais plusieurs internautes s'interrogent sur la réelle « urgence » de la situation. C'est le cas d'Emily Bender qui déclare :

Source : Platformer

Et vous ?

Quelle lecture faites-vous de la situation ?
Comprenez-vous la décision de supprimer cette équipe ? Êtes-vous surpris de la voir passer à la trappe ?
Y avait-il, selon vous, une « urgence » à proposer au public des outils IA ?