Microsoft accuse un groupe de 10 défendeurs anonymes d'avoir utilisé des identifiants volés à ses clients légitimes et un logiciel conçu sur mesure pour s'introduire dans Azure OpenAI. La société accuse les cybercriminels d'avoir violé le Computer Fraud and Abuse Act, le Digital Millennium Copyright Act et une loi fédérale sur le racket en accédant et en utilisant illicitement les logiciels et les serveurs de Microsoft dans le but de créer des contenus offensants, nuisibles et illicites. Microsoft n'a pas fourni de détails spécifiques sur le contenu abusif généré. L'entreprise demande une injonction et « d'autres mesures équitables », ainsi que des dommages et intérêts.Des cybercriminels ont déjoué les garde-fous de sécurité d'Azure OpenAI
L'action en justice en question a été déposée en décembre 2024 auprès du tribunal fédéral du district Est de Virginie. Dans sa plainte, Microsoft dit avoir découvert en juillet 2024 que des clients possédant des informations d'identification pour Azure OpenAI, notamment des clés d'API, étaient utilisés pour générer du contenu qui violait la politique d'utilisation acceptable du service. Une enquête a révélé que les clés d'API avaient été volées à des clients payants.
« Les accusés, basés à l'étranger, ont mis au point des outils spécialement conçus afin de contourner les garde-fous que Microsoft a érigés pour empêcher la création de contenus préjudiciables via ses services d'IA générative », a déclaré Steven Masada, conseiller général adjoint de l'unité de lutte contre la criminalité numérique de Microsoft. D'après la plainte, ils ont combiné ces deux éléments pour créer une plateforme payante que les gens pouvaient utiliser.
« Ces fonctionnalités, combinées à l'accès programmatique illégal des défendeurs au service Azure OpenAI, ont permis aux défendeurs d'effectuer de l'ingénierie inverse pour contourner les mesures de Microsoft en matière de contenu et d'abus. Les défendeurs ont sciemment et intentionnellement accédé aux ordinateurs protégés par le service Azure OpenAI sans une autorisation et, en conséquence, ont causé des dommages et des pertes », indique la plainte.
Ces accusations visent trois personnes non identifiées. Microsoft affirme que les défendeurs ont mis au point « un système de piratage en tant que service » conçu pour permettre la création de contenus nuisibles et illicites en utilisant la plateforme de l'entreprise pour les contenus générés par l'IA.
Azure OpenAI est un service entièrement géré par Microsoft et propulsé par les technologies du fabricant de ChatGPT, OpenAI. Dans sa plainte, Microsoft désigne les défendeurs sous le nom de « DOES », un pseudonyme légal, car la firme de Redmond n'est pas parvenue à découvrir leurs identités réelles.
En outre, Microsoft ne précise pas comment ils ont obtenu toutes les clés d'API utilisées pour commettre l'infraction décrite dans la plainte, mais il semble que les défendeurs se soient engagés dans « un modèle de vol systématique de clés API qui leur a permis de voler les clés API de plusieurs clients de Microsoft ».
Les attaquants ont vendu l'accès à Azure OpenAI à leurs propres clients
Microsoft poursuit également sept personnes qui, selon la société, étaient clientes du service illégal mis au point par les cybercriminels. « Par cette action, Microsoft cherche à perturber un plan sophistiqué mené par des cybercriminels qui ont développé des outils spécifiquement conçus pour contourner les garde-fous des services d'IA générative fournis par Microsoft et d'autres », ont écrit les avocats de Microsoft dans la plainte déposée en décembre dernier.
D'après la plainte, les accusés ont créé un outil côté client appelé « de3u », et un logiciel pour traiter et acheminer les communications de de3u vers les systèmes de Microsoft. De3u permettait aux utilisateurs d'exploiter des clés API volées à des clients légitimes de Microsoft pour générer des images à l'aide de DALL-E, sans avoir à écrire leur propre code. DALL-E est l'un des grands modèles de langage mis à la disposition des clients du service Azure OpenAI.
Les trois personnes qui géraient le service de3u auraient compromis les comptes de clients légitimes de Microsoft et vendu l'accès à ces comptes par l'intermédiaire d'un site désormais fermé, à l'adresse « rentry[.]org/de3u ». Le service, qui a fonctionné de juillet à septembre 2024, date à laquelle il a été fermé par Microsoft, comprenait des « instructions détaillées sur la manière d'utiliser ces outils personnalisés pour générer des contenus nuisibles et illicites ».
Le service contenait un serveur proxy qui relayait le trafic entre ses clients et les serveurs fournissant les services d'intelligence artificielle de Microsoft, selon la plainte. Le service proxy utilisait notamment des API non documentées de Microsoft pour communiquer avec les ordinateurs Azure. Les requêtes résultantes étaient conçues pour imiter les requêtes API légitimes du service Azure OpenAPI et utilisaient des clés API compromises pour les authentifier.
Microsoft affirme que le tribunal l'a autorisé à saisir un site Web essentiel aux activités des défendeurs, ce qui permettra à l'entreprise de recueillir des preuves, de déchiffrer la manière dont les services présumés des défendeurs sont monétisés et de perturber toute infrastructure technique supplémentaire qu'elle découvrirait.
Les avocats de Microsoft ont inclus les images ci-dessus dans la plainte. La première image illustre l'infrastructure du réseau et la seconde montrant l'interface utilisateur fournie aux utilisateurs du service illégal mis au point par les défendeurs. Microsoft a déclaré qu'il travaille à ce que cela ne se reproduise pas.
Microsoft affirme avoir renforcé les mesures de sécurité d'Azure OpenAI
Microsoft n'a pas précisé comment les comptes des clients légitimes ont été compromis, mais a indiqué que les pirates sont connus pour créer des outils qui recherchent dans les référentiels de code les clés API incluses par inadvertance dans les applications. Microsoft et d'autres sociétés conseillent depuis longtemps aux développeurs de supprimer les identifiants et autres données sensibles du code qu'ils publient, mais cette pratique est régulièrement ignorée.
Microsoft a également évoqué la possibilité que les identifiants aient été volés par des personnes ayant obtenu un accès non autorisé aux réseaux où ils étaient stockés. Les avocats de Microsoft allèguent que les services des défendeurs ont violé un certain nombre de lois américaines, en particulier le Computer Fraud and Abuse Act, le Digital Millennium Copyright Act, le Lanham Act et le Racketeer Influenced and Corrupt Organizations Act. Mais ce n'est pas tout.
La plainte ajoute également que ces services constituent une fraude par fil, une fraude sur les dispositifs d'accès, une intrusion de droit commun et une ingérence délictuelle. Elle vise à obtenir une injonction interdisant aux défendeurs de s'engager dans « toute activité décrite dans le présent document ». Microsoft et d'autres sociétés proposant des services similaires interdisent l'utilisation de leurs systèmes d'IA générative pour créer divers contenus.
Les contenus interdits sont notamment ceux qui présentent ou encouragent l'exploitation ou les abus sexuels, qui sont érotiques ou pornographiques, ou qui attaquent, dénigrent ou excluent des personnes en raison de leur race, de leur appartenance ethnique, de leur origine nationale, de leur sexe, de leur identité sexuelle, de leur orientation sexuelle, de leur religion, de leur âge, de leur statut de handicapé ou d'autres caractéristiques similaires.
Il n'autorise pas non plus la création de contenus contenant des menaces, des intimidations, des incitations à la violence physique ou d'autres comportements abusifs. Outre l'interdiction expresse de ce type d'utilisation de sa plateforme, Microsoft a également mis au point des garde-fous qui inspectent à la fois les invites saisies par les utilisateurs et les résultats obtenus pour détecter les signes de violation de l'une de ces conditions par le contenu demandé.
Toutefois, ces restrictions ont été contournées à plusieurs reprises ces dernières années par des piratages, certains bénins et réalisés par des chercheurs, d'autres par des acteurs malveillants. Microsoft n'a pas précisé comment le logiciel des défendeurs aurait été conçu pour contourner les garde-fous créés par la société.
Sources : Microsoft, document de la plainte (PDF)
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
Cyberattaque majeure : Microsoft révèle que des criminels russes ont volé encore plus d'e-mails que ce qui avait été initialement admis, suscitant des inquiétudes quant à la sécurité nationale des États-Unis Microsoft affirme que des pirates informatiques russes ont volé son code source après avoir espionné ses dirigeants, ce qui soulève des préoccupations quant aux pratiques de sécurité de l'entreprise Un jailbreak appelé "Skeleton Key" révèle le pire de l'IA : une simple invite permet de contourner les garde-fous de sécurité sur les principaux modèles comme GPT-4o et Gemini Pro, selon Microsoft