Microsoft dévoile Maia 300, la troisième génération de sa puce d’IA sur mesure, annonçant qu’elle commencerait à la déployer à grande échelle en 2027. Maia deviendrait « le principal système d’inférence IA pour les produits et services Microsoft ». Le PDG de Microsoft, Satya Nadella, a qualifié cette initiative de « notre plus grand pari à ce jour sur nos propres puces ». Selon l’entreprise, Maia 300 produira 40 % de performances d’IA en plus pour une consommation d’énergie identique à celle des principaux systèmes basés sur des GPU, un marché dominé par Nvidia. Un rack complet équipé de ces nouvelles puces produira jusqu’à sept fois plus de performances d’IA que la génération actuelle, affirme l’entreprise. L’initiative de Microsoft s’inscrit dans une tendance plus large chez les géants de la technologie, qui consistent à concevoir leurs propres puces d’IA.En août, un rapport a révélé que Microsoft prévoyait de dévoiler sa nouvelle puce d’IA Maia 300 cet automne. La société a présenté sa puce d’IA Maia en novembre 2023, mais elle a pris du retard par rapport à ses concurrents, tels qu’Alphabet et Amazon, dans l’augmentation de sa production, alors qu’elle cherche à réduire sa dépendance vis-à-vis de Nvidia. Selon le rapport, Microsoft aurait été en pourparlers avec le fabricant de puces TSMC afin de s'assurer une capacité de production de plus de 300 000 unités de cette puce, dont la livraison est prévue en 2027. Microsoft viserait à terme à s'assurer une capacité de production de plus d'un million de puces Maia 300.
Le 12 octobre, l’entreprise a dévoilé Maia 300, la troisième génération de sa puce d’IA sur mesure, annonçant qu’elle commencerait à la déployer à grande échelle en 2027. Dans un article de blog, Scott Guthrie, responsable d’Azure, a déclaré que Maia deviendrait « le principal système d’inférence IA pour les produits et services Microsoft ». Le PDG de Microsoft, Satya Nadella, a qualifié cette initiative de « notre plus grand pari à ce jour sur nos propres puces » dans un message publié sur X.
Selon l’entreprise, Maia 300 produira 40 % de performances d’IA en plus pour une consommation d’énergie identique à celle des principaux systèmes basés sur des GPU, un marché dominé par Nvidia. Un rack complet équipé de ces nouvelles puces produira jusqu’à sept fois plus de performances d’IA que la génération actuelle, affirme l’entreprise. Elles sont conçues pour les types de tâches qui connaissent la croissance la plus rapide, telles que les agents d’IA effectuant des tâches en plusieurs étapes et les modèles traitant de longs documents ou de longues conversations.
L’entreprise de Redmond conçoit les puces et s’appuie sur Taiwan Semiconductor Manufacturing Co. (TSMC) pour les fabriquer, plutôt que d’acheter des puces finies à Nvidia. Des puces plus efficaces permettent également à Microsoft d’exploiter des services d’IA en consommant moins d’électricité, à un moment où l’alimentation électrique est devenue l’une des principales contraintes à l’expansion de l’IA.
Microsoft et Nvidia restent des partenaires de premier plan. Satya Nadella et le PDG de Nvidia, Jensen Huang, se sont retrouvés sur scène pour lancer des PC Windows équipés de puces Nvidia. Nvidia reste également un fournisseur clé pour les centres de données de Microsoft, et Satya Nadella a déclaré lors de la conférence téléphonique sur les résultats financiers de juillet que Microsoft ferait partie des premiers fournisseurs de cloud à déployer des systèmes de nouvelle génération basés sur les puces « Vera Rubin » de Nvidia et « Helios » d’AMD.
L’initiative de Microsoft s’inscrit dans une tendance plus large chez les géants de la technologie, qui consistent à concevoir leurs propres puces d’IA. Google a commencé à vendre ses « Tensor Processing Units » directement à certains clients, et Amazon a séduit des entreprises spécialisées dans l’IA, notamment Anthropic, grâce à ses puces « Trainium ». Meta a déployé ses propres puces d’IA, et OpenAI a dévoilé en juin sa première puce sur mesure, développée en collaboration avec Broadcom.
Microsoft a dû rattraper son retard. Contrairement aux puces de Google et d’Amazon, Maia n’est pas disponible à la location pour des clients externes. La première puce Maia de Microsoft, annoncée en 2023, a été suivie en janvier dernier, après des retards, par la Maia 200 de deuxième génération. Cet été, la Maia 200 n’était opérationnelle que dans deux centres de données américains. Maia 200, la génération actuelle, alimente déjà Microsoft 365 Copilot et exécute des modèles d’OpenAI ainsi que ceux de Microsoft. Elle est désormais déployée aux États-Unis, en Europe et en Australie, selon Microsoft. GitHub Copilot et Microsoft Foundry devraient y migrer d’ici la fin de l’année.
Cette transition prendra du temps. Les analystes estiment que Maia représentera environ 10 % des dépenses de Microsoft en puces d’IA d’ici début 2027. Microsoft indique qu’il communiquera davantage de détails le mois prochain lors de sa conférence Ignite à San Francisco.
Cette annonce intervient alors qu'un rapport avait révélé que Meta et Microsoft limitaient l’utilisation par leurs employés de l’IA « Claude » d’Anthropic tout en promouvant leurs propres outils de programmation. Ces changements portent principalement sur les dépenses internes et les flux de travail du personnel, plutôt que sur la suppression de l’accès des clients à Claude via les produits Microsoft. Cette évolution met en évidence la pression croissante exercée pour maîtriser les coûts liés à l’IA, à mesure que les assistants de codage s’intègrent dans le travail quotidien de développement logiciel.
Voici l'annonce de Microsoft :
Analyse approfondie de l'architecture d'Azure Maia 300
Depuis sa création, Azure Maia s'est construit autour d'une philosophie architecturale unique : optimiser l'ensemble du système pour l'inférence des grands modèles de langage (LLM), afin que chaque watt et chaque dollar génèrent davantage d'intelligence. Aujourd'hui dans sa troisième génération, Maia 300 incarne pleinement cette philosophie. Maia 300 est conçu comme un système complet, dont les logiciels, les puces, l’infrastructure physique en rack, la mise en réseau et les centres de données ont été co-conçus pour fonctionner comme une plateforme unique, afin de répondre aux exigences de l’inférence agentique à l’échelle du cloud.
Cette approche au niveau du système est de plus en plus nécessaire, car les charges de travail « agentiques », notamment l’exécution en plusieurs étapes, le décodage de contextes longs et l’utilisation d’outils, modifient le profil de calcul et l’intensité arithmétique de l’inférence. Pour répondre à ces exigences, il faut maintenir la localité, doter les ressources de calcul d’une capacité de mémoire et d’une bande passante suffisantes, minimiser les mouvements de données, faire évoluer efficacement les communications et optimiser les capacités au sein des contraintes fixes de puissance et de refroidissement d’un centre de données.
Chez Microsoft, nous observons cette transformation de près à travers les produits et plateformes que nos clients utilisent au quotidien, de Microsoft Copilot et GitHub Copilot à Microsoft Foundry. L’exploitation de ces charges de travail à grande échelle nous offre une vision unique de la manière dont l’IA est adoptée dans tous les secteurs d’activité, ainsi que de l’infrastructure nécessaire pour prendre en charge la prochaine génération d’applications et d’agents IA. Maia 300 est conçu pour maximiser le nombre de tokens utiles par watt et par dollar, apportant ainsi davantage de capacité, de fonctionnalités et de performances à ces produits ainsi qu’à l’ensemble du portefeuille d’IA de Microsoft destiné à nos clients.
Une inférence économe en énergie grâce à un flux de données défini par logiciel
Maia 200 a introduit une nouvelle classe d’architecture d’accélérateur appelée « Software Defined Locally Accessed Dataflow Architecture », ou SDLA. Elle part du constat que la gestion efficace des données, notamment leur stockage, leur transfert et leur conversion, constitue l’un des principaux défis des systèmes d’IA modernes. L’architecture de flux de données programmable de Maia sépare la programmation du chemin de contrôle de l’exécution du chemin de données et permet au logiciel de coordonner explicitement le placement, le transfert, la conversion et la synchronisation des données entre les mémoires locales spécialisées, les moteurs DMA, les moteurs de calcul et le réseau.
Maia 300 fait évoluer cette architecture pour permettre des inférences à long contexte, nécessitant un raisonnement intensif et impliquant un décodage important. Premièrement, la mémoire passe d’une organisation à accès mémoire uniforme (UMA) du SoC à une organisation non uniforme (NUMA) tenant compte de la localité entre les chiplets, afin que les logiciels puissent placer les données à proximité des ressources de calcul qui les utilisent. Deuxièmement, de nouveaux formats à précision réduite, associés à une conversion des types de données accélérée par le matériel, réduisent le nombre d’octets déplacés pour chaque token. Troisièmement, le rack double sa capacité pour atteindre 96 accélérateurs et le domaine d’évolutivité s’étend jusqu’à un superpod de 12 288 accélérateurs, permettant ainsi à un plus grand nombre d’accélérateurs de fonctionner efficacement comme un seul et même système.
Plutôt que d’augmenter les performances uniquement par une puissance et une surface de silicium accrues, Maia 300 améliore les performances par watt grâce à un ensemble d’innovations architecturales qui optimisent le transfert de données, la localité, la précision et l’efficacité de la mémoire à l’échelle du système :
- L’architecture multi-chiplet améliore les performances en plaçant les ressources de calcul sur le TSMC N2P, où le procédé de fabrication avancé offre le meilleur rapport performances/watt, tout en séparant les fonctions de contrôleur de mémoire et d’E/S sur des puces optimisées pour la bande passante, la connectivité et le coût. Cela augmente la surface de silicium dédiée aux performances de calcul et permet à chaque fonction d’utiliser la technologie la mieux adaptée à son rôle, tandis que la technologie SDLA gère la localité et le transfert des données au sein du boîtier. Cette stratégie augmente les FLOP de calcul du système de 36 %, multiplie par 2,5 la bande passante HBM et offre 14 % de bande passante d’évolutivité en plus.
- Inférence à faible précision optimisée, grâce à l’introduction de formats de stockage MXFP4 améliorés et inférieurs à 3 bits. Des représentations plus étroites réduisent l’empreinte mémoire et les transferts de données, permettant ainsi au système de prendre en charge des modèles plus volumineux, des contextes plus longs et davantage de sessions simultanées dans la même enveloppe de puissance.
- Noyau d’inférence optimisé grâce à l’amélioration de l’ISA : le moteur vectoriel ajoute des optimisations pour les noyaux d’inférence clés, notamment le softmax, la conversion de données en faible précision et d’autres opérations.
- Déplacement efficace des données sur la puce : Maia 300 fait passer l’organisation de la mémoire d’un modèle uniforme à un modèle non uniforme (NUMA) entre les chiplets. Chaque région de calcul dispose d’une mémoire à proximité, et le contrôle explicite exercé par SDLA sur les moteurs DMA, la SRAM locale, la HBM et le réseau sur puce place les données à proximité du calcul qui les utilise. Les données parcourent des distances plus courtes, ce qui réduit l’énergie dépensée pour leur déplacement.
- Hiérarchie mémoire optimisée pour la bande passante par watt, combinant une SRAM intégrée gérée par logiciel et huit piles HBM4 offrant une capacité de 288 Go et une bande passante de 18 To/s par accélérateur. Par rapport à Maia 200, cela permet d’obtenir une bande passante mémoire 2,5 fois supérieure, une capacité accrue de 33 % et une bande passante HBM par watt environ deux fois plus élevée, ce qui permet de conserver davantage d’états de modèles et de KV à proximité du cœur de calcul.
Une structure évolutive : du pod au superpod
Maia 300 fait du réseau une extension native de son architecture de flux de données définie par logiciel. Le contrôleur de réseau IA de Maia met en œuvre un transport IA personnalisé basé sur Ethernet. Un réseau à deux niveaux permet de constituer un superpod haute performance pouvant compter jusqu’à 12 288 accélérateurs. Maia présente un modèle de communication unique au logiciel : une sémantique identique pour transférer les données directement vers n’importe quel accélérateur au sein d’un superpod.
- Topologie « half-switched » au sein du rack
Chaque accélérateur répartit sa connectivité évolutive entre des liaisons directes et des chemins commutés. Les liaisons directes relient deux accélérateurs au sein d’un plateau, tandis que la structure commutée relie les 96 accélérateurs du rack pour former un pod. L’ensemble de la connectivité au sein du rack utilise des liaisons électriques afin de réduire la consommation d’énergie et les coûts.
- Deuxième niveau optique entre les racks
Les commutateurs de deuxième niveau relient jusqu’à 128 racks entre eux pour former un superpod. Les composants optiques fournissent la portée nécessaire pour étendre le réseau « scale-up » à travers les pods.
- Une seule structure de réseau plutôt que des domaines distincts pour...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.