Comme tous les calculs sont effectués localement, il faut s'assurer que l'appareil peut supporter la charge. À l'avenir, Microsoft prévoit d'intégrer ORT/DML dans le flux de travail de Windows AI Studio afin que les développeurs puissent exécuter des modèles d'IA sur n'importe quel matériel Windows.
Démarrage rapide
Conditions préalables
Windows AI Studio ne fonctionnera que sur les GPU NVIDIA pour l'aperçu, alors vérifiez les spécifications de votre appareil avant de l'installer. WSL Ubuntu distro 18.4 ou plus doit être installé et configuré par défaut avant d'utiliser Windows AI Studio.
Installer Windows AI Studio Preview
Windows AI Studio est livré en tant qu'extension de Visual Studio Code. Vous devez donc d'abord installer VS Code, puis télécharger Windows AI Studio à partir de VS Marketplace.
Vérification des conditions préalables
Après l'installation de Windows AI Studio, Microsoft vérifiera votre système pour s'assurer que vous disposez des ressources nécessaires pour l'exécuter. Une fois la vérification des prérequis terminée, vous pouvez terminer la configuration de l'environnement en cliquant sur le bouton "Set Up WSL Environment" (Configurer l'environnement WSL).
Vous êtes maintenant prêt à utiliser l'extension ! Vous serez invité à vous connecter à GitHub, veuillez cliquer sur "Allow" pour continuer. Vous serez redirigé vers la page de signature de GitHub. Veuillez vous connecter et suivre les étapes du processus. Une fois la procédure terminée, vous serez redirigé vers VS Code.
Actions disponibles
Au lancement de Windows AI Studio, vous pouvez choisir parmi les options suivantes :
- Ajustement du modèle
- Projet RAG
- Terrain de jeu du modèle Phi-2
- Modèles optimisés pour Windows
Mise au point du modèle
Pour lancer la session de mise au point locale à l'aide de QLoRA, sélectionnez un modèle que vous souhaitez mettre au point à partir du catalogue alimenté par AzureML.
Remarque : Vous n'avez pas besoin d'un compte Azure pour télécharger les modèles.
Commencez par sélectionner un nom de projet et un emplacement. Ensuite, sélectionnez un modèle dans le catalogue de modèles. Vous serez invité à télécharger le modèle de projet. Vous pouvez ensuite cliquer sur "Configurer le projet" pour ajuster les différents paramètres. Nous utilisons Olive pour exécuter le réglage fin de QLoRA sur un modèle PyTorch de notre catalogue. Tous les paramètres sont prédéfinis avec les valeurs par défaut afin d'optimiser l'exécution locale du processus de mise au point avec une utilisation optimisée de la mémoire, mais ils peuvent être ajustés en fonction de votre scénario.
Une fois tous les paramètres définis, cliquez sur Générer un projet. Cela aura pour effet de
- lancer le téléchargement du modèle
- Installer toutes les conditions préalables et les dépendances
- Créer l'espace de travail VS Code
Lorsque le modèle est téléchargé, vous pouvez lancer le projet à partir de Windows AI Studio. Vous pouvez maintenant affiner et tester le modèle en suivant les instructions de la page Readme dans le dossier du projet.
Projet RAG
Bientôt disponible !
Terrain de jeu du modèle Phi-2
Bientôt disponible !
Modèles optimisés pour Windows
Il s'agit de la collection de modèles d'IA disponibles publiquement et déjà optimisés pour Windows. Les modèles sont stockés à différents endroits, y compris Hugging Face, GitHub et d'autres, mais vous pouvez parcourir les modèles et les trouver tous en un seul endroit, prêts à être téléchargés et utilisés dans votre application Windows.
Source : Microsoft
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
Conférence développeurs et IT Pro Ignite 2023 : Microsoft dévoile sa stratégie pour l'IA, le Cloud, et la sécurité ainsi que pour Windows, Copilot, ChatGPT, GTP-4, Azure, et Microsoft Office 365
Microsoft et Nvidia collaborent pour faciliter l'exécution de modèles d'IA sous Windows aux développeurs, avec des outils permettant de travailler localement avec des modèles d'IA volumineux
Azure Maia 100 : Microsoft présente sa première puce IA conçue sur mesure et optimisée pour l'IA générative, tandis que l'entreprise cherche à réduire sa dépendance coûteuse à Nvidia