IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Microsoft licencie son équipe chargée de l'éthique IA, tandis que l'entreprise accélère son avancée dans les produits d'IA

Le , par Stéphane le calme

40PARTAGES

7  0 
L'équipe dédiée à l’éthique de l’intelligence artificielle fait partie des 10 000 personnes licenciées par Microsoft, selon les informations de Platformer. Une décision qui a lieu au moment même où la société accélère dans sa volonté de rendre des outils d’IA accessibles au grand public. Cette décision laisse Microsoft sans équipe dédiée pour s'assurer que ses principes d'IA sont étroitement liés à la conception de produits à un moment où l'entreprise mène la charge pour mettre les outils d'IA à la disposition du grand public, ont déclaré les employés actuels et anciens.

Microsoft a licencié toute son équipe chargée d'assurer l'utilisation éthique des logiciels d'IA à un moment où la grande enseigne du logiciel intensifiait son utilisation de la technologie d'apprentissage automatique. Microsoft s'est débarrassé de l'équipe éthique et société, qui était au sein de son organisation d'intelligence artificielle, dans le cadre des 10 000 suppressions d'emplois que l'entreprise a annoncées et qui se poursuivront jusqu'à l'année prochaine.

Le coup porté à cette unité particulière pourrait supprimer certaines barrières de sécurité destinées à garantir que les produits de Microsoft qui intègrent des fonctionnalités d'apprentissage automatique respectent les normes de la méga-corporation en matière d'utilisation éthique de l'IA. Et cela survient alors que la discussion fait rage sur les effets des modèles controversés d'intelligence artificielle sur la société dans son ensemble.

Comment cela s'est-il déroulé

Microsoft maintient toujours un Office of Responsible AI actif, qui est chargé de créer des règles et des principes pour régir les initiatives d'IA de l'entreprise. L'entreprise affirme que son investissement global dans le travail de responsabilité augmente malgré les récentes mises à pied.

« Microsoft s'engage à développer des produits et des expériences d'IA de manière sûre et responsable, et le fait en investissant dans des personnes, des processus et des partenariats qui en font la priorité », a déclaré la société dans un communiqué. « Au cours des six dernières années, nous avons augmenté le nombre de personnes au sein de nos équipes de produits et au sein du Bureau de l'IA responsable qui, avec nous tous chez Microsoft, sont responsables de la mise en pratique de nos principes d'IA. […] Nous apprécions le travail de pionnier que l'équipe d'éthique et de société a fait pour nous aider dans notre parcours continu d'IA responsable ».

Mais les employés ont déclaré que l'équipe d'éthique et de société avait joué un rôle essentiel en veillant à ce que les principes d'IA responsable de l'entreprise se reflètent réellement dans la conception des produits expédiés.

« Les gens regardaient les principes émanant du bureau de l'IA responsable et disaient : "Je ne sais pas comment cela s'applique"», a déclaré un ancien employé. « Notre travail consistait à leur montrer et à créer des règles dans des domaines où il n'y en avait pas ».

Ces dernières années, l'équipe a conçu un jeu de rôle appelé Judgment Call qui a aidé les concepteurs à imaginer les dommages potentiels pouvant résulter de l'IA et à en discuter lors du développement du produit. Cela faisait partie d'une « boîte à outils d'innovation responsable » plus vaste que l'équipe a publiée publiquement.

Plus récemment, l'équipe s'est efforcée d'identifier les risques posés par l'adoption par Microsoft de la technologie OpenAI dans sa suite de produits. L'équipe éthique et société était à son apogée en 2020, alors qu'elle comptait environ 30 employés, dont des ingénieurs, des designers et des philosophes. En octobre, l'équipe a été réduite à environ sept personnes dans le cadre d'une réorganisation.

Lors d'une réunion avec l'équipe après la réorganisation, John Montgomery, vice-président d'AI, a déclaré aux employés que les dirigeants de l'entreprise leur avaient demandé d'agir rapidement. « La pression de [CTO] Kevin [Scott] et [CEO] Satya [Nadella] est très très élevée pour incorporer ces modèles openAI les plus récents et ceux qui les suivent et les mettre entre les mains des clients à très grande vitesse » a-t-il dit, selon l'audio de la réunion obtenu par Platformer.

En raison de cette pression, a déclaré Montgomery, une grande partie de l'équipe allait être déplacée vers d'autres domaines de l'organisation.

Certains membres de l'équipe ont résisté : « Je vais être assez audacieux et vous demander de bien vouloir reconsidérer cette décision », a déclaré un employé lors de l'appel. « Bien que je comprenne qu'il y a des problèmes commerciaux en jeu… ce dont cette équipe a toujours été profondément préoccupée, c'est notre impact sur la société et les impacts négatifs que nous avons eus. Et ils sont significatifs ».

Montgomery a refusé. « Puis-je reconsidérer la décision ? Je ne pense pas que je le ferai », a-t-il déclaré. « Parce que malheureusement les pressions restent les mêmes. Vous n'avez pas le point de vue que j'ai, et vous pouvez probablement en être reconnaissant. Il y a beaucoup de choses qui sont broyées dans la saucisse ».

En réponse aux questions, cependant, Montgomery a déclaré que l'équipe ne serait pas supprimée. « Ce n'est pas qu'elle s'en va, c'est qu'elle évolue », a-t-il déclaré. « Elle évolue vers une plus grande énergie au sein des équipes de produits individuelles qui créent les services et les logiciels, ce qui signifie que le hub central qui a effectué une partie du travail délègue ses capacités et ses responsabilités ».

La plupart des membres de l'équipe ont été transférés ailleurs au sein de Microsoft. Par la suite, les membres restants de l'équipe d'éthique et de société ont déclaré que l'équipage réduit rendait difficile la mise en œuvre de leurs plans ambitieux. Environ cinq mois plus tard, le 6 mars, les employés restants ont été invités à se joindre à un appel Teams à 11h30 PT pour entendre une « mise à jour critique de l'entreprise » de Montgomery. Au cours de la réunion, on leur a dit que leur équipe était finalement supprimée.

Un employé affirme que cette décision laisse un vide fondamental dans l'expérience utilisateur et la conception holistique des produits d'IA. « Le pire, c'est que nous avons exposé l'entreprise à des risques et les êtres humains à des risques en faisant cela », ont-ils expliqué.

Le conflit souligne une tension continue pour les grandes enseigne de la technologie qui créent des divisions dédiées à rendre leurs produits plus socialement responsables. Au mieux, ils aident les équipes produit à anticiper les utilisations abusives potentielles de la technologie et à résoudre les problèmes avant leur livraison.

Mais ils ont aussi pour tâche de dire «*non*» ou de «*ralentir*» au sein d'organisations qui souvent ne veulent pas l'entendre - ou d'énoncer les risques qui pourraient entraîner des maux de tête juridiques pour l'entreprise s'ils faisaient surface lors d'une découverte juridique. Et les frictions qui en résultent débordent parfois sur le devant de la scène publique.

De gros enjeux : damer le pion à Google

Microsoft peut maintenant avoir une chance unique sur une génération de gagner une traction significative contre Google dans la recherche, les logiciels de productivité, le cloud computing et d'autres domaines où les grandes enseignes sont en concurrence. Lorsque Microsoft a lancé son Bing nouvelle génération qui s'appuie sur l'IA, la société a déclaré aux investisseurs que chaque 1% de part de marché qu'elle pourrait retirer à Google dans la recherche se traduirait par un revenu annuel de 2 milliards de dollars.

Ce potentiel explique pourquoi Microsoft a jusqu'à présent investi 11 milliards de dollars dans OpenAI et s'efforce actuellement d'intégrer la technologie de la startup dans tous les coins de son empire. Elle semble d'ailleurs avoir un certain succès : la société a déclaré que Bing comptait désormais 100 millions d'utilisateurs actifs quotidiens, dont un tiers de nouveaux depuis que le moteur de recherche a été relancé avec la technologie d'OpenAI.

Citation Envoyé par Microsoft
Il est difficile de croire que cela fait un peu plus d'un mois que nous avons lancé au monde les nouveaux Bing et Edge alimentés par l'IA en tant que copilote pour le Web. Au cours de cette période, nous avons entendu vos commentaires, appris beaucoup de choses et apporté un certain nombre d'améliorations. Nous sommes ravis du cercle vertueux de retours et d'itérations qui entraîne de fortes améliorations et utilisations de Bing.

Nous voulions partager un peu ce que nous avons appris sur votre utilisation de Bing et certaines des premières statistiques qui aident à façonner notre futur développement de produits.

Nous sommes heureux de partager qu'après plusieurs années de progrès constants, et avec un petit coup de pouce du million de nouveaux utilisateurs de Bing Preview, nous avons dépassé les 100 millions d'utilisateurs actifs quotidiens de Bing. Il s'agit d'un chiffre étonnamment notable, et pourtant nous sommes pleinement conscients que nous restons un petit acteur à part faible et à un chiffre de part de marché. Cela dit, ça fait du bien de participer au bal !

Parmi les millions d'utilisateurs actifs du nouvel aperçu de Bing, il est bon de voir qu'environ un tiers sont nouveaux sur Bing. Nous voyons cet attrait du nouveau Bing comme une validation de notre point de vue selon lequel la recherche doit être réinventée et de la proposition de valeur unique consistant à combiner Recherche + Réponses + Chat + Création en une seule expérience.

Deuxièmement, non seulement nous constatons une croissance du nombre de nouveaux utilisateurs, mais nous constatons une augmentation de l'engagement à mesure que de plus en plus de personnes effectuent plus de recherches quotidiennement.

Deux facteurs motivent l'essai et l'utilisation. L'un est que Microsoft Edge continue de croître en termes d'utilisation comme il l'a fait au cours des sept derniers trimestres en fonction de la qualité de notre navigateur. Nous nous attendons à ce que de nouvelles fonctionnalités, telles que la recherche et la création de Bing dans la barre latérale Edge, renforcent la croissance.

Le deuxième facteur déterminant l'essai et l'utilisation est que notre classement de recherche Web principal a fait plusieurs sauts significatifs en termes de pertinence en raison de l'introduction du modèle Prometheus, de sorte que la qualité de notre recherche Bing est à un niveau record.

Alors que de plus en plus de personnes utilisent les nouveaux Bing et Edge, nous assistons à des essais et à l'adoption de nouvelles fonctionnalités qui prouvent la valeur d'une expérience de recherche + chat intégrée. Environ un tiers des utilisateurs de l'aperçu quotidien utilisent Chat quotidiennement. Nous voyons en moyenne environ trois chats par session avec plus de 45 millions de chats au total depuis le début de l'aperçu. Et 15 % des sessions de chat sont des personnes qui utilisent Bing pour générer de nouveaux contenus démontrant que nous étendons la recherche à la créativité.

Nous sommes également ravis de voir le nouveau Bing commencer à être utilisé sur les téléphones mobiles, compte tenu de la sortie de notre nouvelle application Bing Mobile. Sur le petit écran, les réponses et le chat, désormais avec entrée vocale, sont beaucoup plus utiles et ont entraîné une augmentation de 6 fois du nombre d'utilisateurs actifs quotidiens par rapport aux niveaux de pré-lancement.

Ces 30 jours ont été incroyables et l'équipe est motivée pour continuer à itérer et à améliorer Bing et Edge pour offrir la prochaine génération de recherche et ce que nous espérons devenir votre copilote de confiance pour le Web.

- Yusuf Mehdi


Pour Bill Gates, l'essor de l'IA menace les bénéfices que Google tire de son moteur de recherche

Dans une interview, Bill Gates a abordé le sujet de l'IA, estimant que Google devrait bientôt perdre une partie des bénéfices qu'il tire de son moteur de recherche au profit de Microsoft. Selon lui, c'est une chose qui va arriver, car Microsoft a beaucoup investi dans le domaine de l'IA ces dernières années et a réalisé de grands progrès. Lors de l'interview, Bill Gates a expliqué : « Google a possédé tous les bénéfices de la recherche, donc les bénéfices de la recherche seront en baisse, et leur part pourrait être en baisse parce que Microsoft a été capable d'avancer assez rapidement sur ce point ».

Pour rappel, Google a affiché 224 milliards de dollars de revenus publicitaires en 2022, ce qui représente plus de douze fois les revenus publicitaires de Microsoft sur la même période, soit 18 milliards de dollars. Google a dominé la recherche au cours des deux dernières décennies et, selon le cabinet d'analyse Statcounter, il représente environ 93 % du marché mondial des moteurs de recherche, tandis que Bing en représente environ 3 %. Les commentaires Bill Gates sont intervenus deux semaines après que Microsoft a dévoilé une version de Bing pilotée par l'IA, qui se pose en challenger de la domination de Google dans le domaine de la recherche.

Il est encore trop tôt pour évaluer les impacts de ce lancement sur le moteur de recherche de Microsoft, mais il est important de rappeler que Google voit ChatGPT comme une « menace », et ce depuis son lancement. ChatGPT a attiré plus 100 millions d'utilisateurs en moins de deux mois, et Microsoft espère que Bing, qui intègre désormais les capacités du chatbot d'OpenAI, suscite le même attrait. Toutefois, Google n'entend pas rester les bras croisés. L'entreprise a lancé dans la foulée un chatbot d'IA appelé Bard pour répondre aux développements agressifs de Microsoft. Bing Chat et Bard sont tous deux ouverts aux utilisateurs pour qu'ils puissent les tester.

Lors de l'interview, Bill Gates a admis avoir été surpris par la façon dont le développement de l'IA s'est accéléré l'année dernière et a déclaré que ce sera « la plus grande chose de cette décennie ». Selon lui, pour que l'intégration de l'IA dans les moteurs de recherches réussisse, elle doit être un « agent personnel » qui comprendrait les besoins et le style des utilisateurs et remplacerait les services distincts de différentes entreprises technologiques - comme c'est le cas actuellement avec Google qui domine la recherche, Amazon qui s'occupe des achats, Microsoft qui possède les outils de productivité et Apple qui domine le marché des appareils mobiles.

« Dans dix ans, nous ne considérerons plus ces activités comme distinctes parce que l'IA vous connaîtra si bien que, lorsque vous achèterez des cadeaux ou planifierez des voyages, elle se moquera de savoir si Amazon a le meilleur prix, si quelqu'un d'autre a un meilleur prix - vous n'aurez même pas besoin d'y penser. Il s'agit donc d'un remaniement potentiel assez spectaculaire de la façon dont les marchés technologiques se présentent », a déclaré Bill Gates. Il a également déclaré qu'il n'était pas sûr qu'un acteur spécifique ressorte gagnant de la course à l'IA, mais certains pensent que Microsoft est actuellement à la tête du peloton.

Conclusion

Toutes les personnes impliquées dans le développement de l'IA conviennent que la technologie présente des risques puissants et peut-être existentiels, connus et inconnus. Les géants de la technologie ont pris soin de signaler qu'ils prennent ces risques au sérieux. Par exemple, Microsoft à lui seul a trois groupes différents travaillant sur la question, même après l'élimination de l'équipe éthique et société. Mais compte tenu des enjeux, toute réduction d'équipes axées sur le travail responsable semble digne de mention.

L’affaire rappelle aussi le licenciement de Timnit Gebru puis Margaret Mitchell, alors à la tête de la cellule en charge de l’éthique de l’intelligence artificielle chez Google, en 2020, puisque celui-ci avait eu lieu juste après qu’elles proposent un papier de recherche critiquant les effets sociaux et environnementaux de certaines de ces technologies.


Plusieurs employés ont témoigné de la très forte pression effectuée par la direction de Microsoft pour sortir le plus rapidement possible des outils IA à l'intention du grand public. Mais plusieurs internautes s'interrogent sur la réelle « urgence » de la situation. C'est le cas d'Emily Bender qui déclare :

Il n'y a pas urgence à construire "l'IA". Il n'y a aucune urgence à utiliser "l'IA". Il n'y a aucun avantage à cette course en dehors des gains de profit (perçus) à court terme. Il est très révélateur que lorsque les choses se bousculent, malgré le fait d'avoir attiré des chercheurs très talentueux, réfléchis et proactifs, les cos de la technologie décident qu'ils sont mieux sans équipes éthiques/IA responsables.

L'autorégulation n'allait jamais être suffisante, mais je pense que des équipes internes travaillant de concert avec une régulation externe auraient pu être une combinaison vraiment bénéfique.

Alors, que pouvons-nous faire en tant que chercheurs et autrement, en ce moment*?
Source : Platformer

Et vous ?

Quelle lecture faites-vous de la situation ?
Comprenez-vous la décision de supprimer cette équipe ? Êtes-vous surpris de la voir passer à la trappe ?
Y avait-il, selon vous, une « urgence » à proposer au public des outils IA ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de yahiko
Rédacteur/Modérateur https://www.developpez.com
Le 16/03/2023 à 14:41
Ce n'est en effet pas parce que l'équipe en charge de l'éthique sur les sujets de l'IA est dissoute que cela signifie que Microsoft fait fit de ces considérations. Bien au contraire.
Une telle équipe est tout simplement superflue dans la mesure où cette préoccupation fait déjà partie de l'ADN de la firme de Redmond.
En effet, Microsoft a toujours eu à cœur de respecter l'éthique dans ses produits et ses pratiques commerciales et sociétales.
Aussi, et ce n'est pas négligeable, les bénéfices de l'IA sont bien plus grands que les possibles risques. Et avancer le plus rapidement possible dans ce domaine nécessite parfois de limiter la bureaucratie et les validations futiles.
Cette décision est donc totalement cohérente et justifiée.
4  1 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 04/06/2024 à 15:23
Citation Envoyé par Stéphane le calme Voir le message
La décision du géant technologique de procéder à ces réductions reflète une tendance plus large dans le secteur technologique, où les entreprises se concentrent de plus en plus sur l'efficacité et la gestion des coûts en réponse à l'évolution de la dynamique du marché.
Peut-être que les grandes entreprises de la technologie embauchaient trop de gens qui ne servaient à rien et un jour elles ont réalisées qu'il était possible de réaliser le même travail avec moins d'employés.
Par contre si dans ceux qui se sont fait virer il y a des développeurs alors c'est autre chose qui motive les licenciements massifs.

Citation Envoyé par Stéphane le calme Voir le message
L'année dernière, l'entreprise a annoncé son intention de supprimer 10 000 postes au cours des premiers mois de 2023. Depuis, elle a procédé à d'autres séries de licenciements.
Je ne sais pas comme ils font pour établir la liste des gens qui vont se faire virer.
Le service qui a dit "on a l'intention de supprimer 10 000 postes" ne doit pas savoir comment l'entreprise fonctionne dans le détail, donc il ne peut pas anticiper les conséquences des licenciements.
1  0 
Avatar de RenarddeFeu
Membre habitué https://www.developpez.com
Le 04/06/2024 à 23:17
Pas mal d'entreprises qui ont massivement investi dans le cloud vont se retrouver le bec dans l'eau, d'autant plus qu'il n'est pas simple de sortir d'un écosystème captif type Azure. Leurs coûts d'exploitation vont exploser dans les années à venir.

Avec les solutions de virtualisation existantes, le client lourd va probablement faire son retour en force dans les entreprises. Vivement qu'on en finisse avec ces usines à gaz que sont les applis web.
1  0 
Avatar de Prox_13
Membre éprouvé https://www.developpez.com
Le 16/03/2023 à 14:59
Citation Envoyé par yahiko Voir le message
Ce n'est en effet pas parce que l'équipe en charge de l'éthique sur les sujets de l'IA est dissoute que cela signifie que Microsoft fait fit de ces considérations. Bien au contraire.
Une telle équipe est tout simplement superflue dans la mesure où cette préoccupation fait déjà partie de l'ADN de la firme de Redmond.
En effet, Microsoft a toujours eu à cœur de respecter l'éthique dans ses produits et ses pratiques commerciales et sociétales.
Aussi, et ce n'est pas négligeable, les bénéfices de l'IA sont bien plus grands que les possibles risques. Et avancer le plus rapidement possible dans ce domaine nécessite parfois de limiter la bureaucratie et les validations futiles.
Cette décision est donc totalement cohérente et justifiée.
J'ai mis au moins une minute avant de comprendre le sarcasme
1  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 16/03/2023 à 19:46
Citation Envoyé par yahiko Voir le message
Ce n'est en effet pas parce que l'équipe en charge de l'éthique sur les sujets de l'IA est dissoute que cela signifie que Microsoft fait fit de ces considérations. Bien au contraire.
Une telle équipe est tout simplement superflue dans la mesure où cette préoccupation fait déjà partie de l'ADN de la firme de Redmond.
En effet, Microsoft a toujours eu à cœur de respecter l'éthique dans ses produits et ses pratiques commerciales et sociétales.
Aussi, et ce n'est pas négligeable, les bénéfices de l'IA sont bien plus grands que les possibles risques. Et avancer le plus rapidement possible dans ce domaine nécessite parfois de limiter la bureaucratie et les validations futiles.
Cette décision est donc totalement cohérente et justifiée.
0  0 
Avatar de Madmac
Membre extrêmement actif https://www.developpez.com
Le 27/09/2023 à 18:27
Microsoft a encore manqué un train. Ils ont tous misée sur les casques de mondes virtuelles et l'intelligence artificielle. Au de faire la promotion du travail à distance et de solution d'outil clé-en-main.
0  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 05/06/2024 à 0:23
Ils nous prennent vraiment pour des pives. Comme dit dans l'article, c'est juste pour l'exercice fiscal. Le reste, c'est du vent. Surtout la partie où ils se jettent eux-même des fleurs sur le fait d'être apprécié et que CoPilot soit LA fonctionnalité que tout le monde désire

Citation Envoyé par RenarddeFeu Voir le message
Pas mal d'entreprises qui ont massivement investi dans le cloud vont se retrouver le bec dans l'eau, d'autant plus qu'il n'est pas simple de sortir d'un écosystème captif type Azure. Leurs coûts d'exploitation vont exploser dans les années à venir.

Avec les solutions de virtualisation existantes, le client lourd va probablement faire son retour en force dans les entreprises. Vivement qu'on en finisse avec ces usines à gaz que sont les applis web.
Pas seulement les coûts d'exploitation: les coûts de sortie de la data. C'est super facile d'en importer et d'en générer, mais ça coûte cher de la faire sortir.

Citation Envoyé par RenarddeFeu Voir le message
Avec les solutions de virtualisation existantes, le client lourd va probablement faire son retour en force dans les entreprises. Vivement qu'on en finisse avec ces usines à gaz que sont les applis web.
Pas certain que ça change quelque chose. Les clients captifs; les marketeux adorent! Ce n'est pas pour rien que la tendance est au tout connecté.
0  0