Microsoft relance discrètement sa fonctionnalité IA controversée Recall en préversion sur Windows 11 pour les PC Copilot+

L'outil enregistre tout ce que vous voyez à l'écran

Microsoft relance discrètement sa fonctionnalité IA controversée Recall en préversion sur Windows 11 pour les PC Copilot+,
l'outil enregistre tout ce que vous voyez à l'écran

Après avoir temporairement mis de côté sa fonction controversée Windows Recall suite à une vague de réactions négatives, Microsoft revient à la charge et glisse discrètement l'application de capture d'écran dans le canal Windows 11 Release Preview pour les PC Copilot+, signalant ainsi qu'elle est presque prête pour une disponibilité générale. Présentée initialement comme une avancée majeure en matière de productivité grâce à l'IA, cette fonctionnalité a suscité de vives critiques en raison de préoccupations liées à la vie privée et à la sécurité.

Recall : une mémoire numérique alimentée par l'IA

Recall est conçue pour capturer périodiquement des captures d'écran de l'activité de l'utilisateur sur son PC, créant ainsi une base de données consultable localement. Grâce à l'intégration de modèles de langage sur l'appareil, les utilisateurs peuvent rechercher des informations précédemment affichées à l'écran en utilisant des requêtes en langage naturel.

Préoccupations en matière de confidentialité et de sécurité

Dès son annonce, Recall a été critiquée pour son approche intrusive, enregistrant l'activité de l'utilisateur sans consentement explicite. Les experts en sécurité ont souligné les risques potentiels, notamment la possibilité pour des acteurs malveillants d'accéder à des informations sensibles stockées localement.

Recall stockait à l'origine toutes les captures d'écran et le texte sur le disque en clair, sans chiffrement supplémentaire ni aucune autre forme protection, et les utilisateurs ayant un accès local ou distant à la machine pouvaient facilement copier et ouvrir les données Recall d'autres utilisateurs.

Étant donné que Recall était activée par défaut et qu'elle ne prenait aucune mesure pour masquer les informations sensibles, les chercheurs en sécurité et d'autres utilisateurs l'ont identifiée à juste titre comme un énorme risque pour la sécurité et la vie privée (les utilisateurs pouvaient exclure certains sites Web ou applications de la sauvegarde par Recall, mais cela devait être fait entièrement manuellement). Ces lacunes de sécurité avaient provoqué un tollé.

D'ailleurs, les tests de Kevin Beaumont, un chercheur en sécurité, ont montré que Recall donne la possibilité à des tiers de voler tout ce que vous avez tapé ou regardé sur votre PC.

S'il fallait résumer les failles initiales de l'outil dans Windows 11, nous noterions :

• Des captures d’écran effectuées à une certaine fréquence. Celles-ci sont automatiquement analysées par Azure AI, qui fonctionne sur l’ordinateur, et enregistrées dans une base de données SQLite au sein du dossier utilisateur.
• Seul l’utilisateur d’un compte donné peut avoir accès à cette base de données, d’après Microsoft, mais les tests ont révélé qu’un utilisateur d’un autre compte sur le même PC peut y avoir accès. Il suffit pour cela que ce dernier accède depuis son compte au dossier CoreAIPlatform sous AppData.
• La base de données est accessible à distance et ce, sans que l’attaquant n’ait besoin de disposer de droits d’administrateur.
• Le niveau de compression de la base de données est tel que l’archive occupe un espace disque de l’ordre de centaines de kilooctets pour plusieurs jours de captures d’écran. Elle est donc extractible en quelques secondes par des tiers malveillants.

Comme si cela ne suffisait pas, Microsoft ne voulait pas permettre aux utilisateurs de désinstaller Recall dans Windows 11. Un porte-parole de Microsoft a déclaré que Recall dans la section « Activer ou désactiver les fonctionnalités de Windows » n'est rien d'autre qu'un bug, et qu'une prochaine mise à jour supprimera Recall de cette section :

« Nous sommes au courant d'un problème où Recall est incorrectement listé comme une option dans la boîte de dialogue "Activer ou désactiver les fonctionnalités de Windows" dans le Panneau de configuration. Ce problème sera corrigé dans une prochaine mise à jour ».

Bien que Microsoft ait affirmé que les données étaient stockées localement et protégées, la confiance des utilisateurs était ébranlée.


Microsoft revoie sa copie et relance l'outil

Microsoft déploie progressivement la fonction Windows Recall, alimentée par l'IA, auprès des Insiders dans le canal Release Preview avant de la mettre à la disposition de tous les utilisateurs de Windows disposant d'un PC Copilot+.

L'équipe du programme Windows Insider a indiqué que Recall peut être interrompu à tout moment et n'autorisera l'accès aux données capturées qu'après authentification via Windows Hello.

La dernière version de Recall fonctionne avec les principaux navigateurs, notamment Edge, Firefox, Opera et Google Chrome. Les captures d'écran et les données contextuelles qui en sont extraites, et apparemment les autres applications utilisées, sont sauvegardées et chiffrées localement. L'accès à l'archive des captures d'écran nécessite l'authentification Windows Hello, et vous aurez besoin d'un des PC Copilot+ de Microsoft doté d'un NPU pour gérer les demandes de traitement de l'IA.

Redmond insiste sur le fait que les données restent sur le stockage local de votre PC :

Révisions et mesures de protection renforcées

La nouvelle préversion en cours de déploiement tient compte des nombreux travaux réalisés depuis l’année dernière. Microsoft a progressivement opté pour une architecture différente pour tenter de répondre aux préoccupations de confidentialité avec des améliorations sécuritaires.

Par exemple, la fonction est désormais désactivée par défaut au lieu d'être activée, les utilisateurs doivent s'authentifier à nouveau avec Windows Hello avant d'accéder aux données Recall, et les données Recall stockées localement seraient protégées par un chiffrement supplémentaire.

Toutes les données Recall stockées localement, y compris les « clichés et toutes les informations associées dans la base de données vectorielle », sont chiffrées au repos avec des clés stockées dans le TPM de votre système : dans un billet de blog, Microsoft a indiqué que Recall ne fonctionnera que lorsque BitLocker ou Device Encryption est pleinement activé. Recall nécessitera également l'activation de Virtualization-Based Security (VBS) et Hypervisor-Protected Code Integrity (HVCI) ; ces fonctions sont parfois désactivées pour améliorer les performances des jeux, mais Recall refusera de fonctionner si elles ne sont pas activées.

En effet, le nouveau Recall fonctionne à l'intérieur d'une enclave VBS, qui permet d'isoler et de sécuriser les données en mémoire par rapport au reste du système.

« Cette zone agit comme une boîte verrouillée à laquelle on ne peut accéder qu'après avoir obtenu l'autorisation de l'utilisateur par le biais de Windows Hello », explique Microsoft. « Les enclaves VBS offrent une frontière d'isolation par rapport au noyau et aux utilisateurs administratifs ».

Chaque fois qu'un utilisateur ouvrira Recall pour consulter ses clichés, il devra utiliser Windows Hello pour s'authentifier à nouveau et, lorsqu'il le configurera, il devra d'abord utiliser une authentification biométrique telle qu'une caméra à balayage facial ou un lecteur d'empreintes digitales. Le déverrouillage de Recall avec un code PIN Windows Hello ne peut être configuré que lorsque Recall a déjà été activé, et il s'agit d'une « méthode de repli » destinée à « éviter la perte de données si un capteur sécurisé est endommagé ».

En outre, Recall peut être désactivé n’importe quand et même être désinstallé.

Microsoft a également assoupli le paramétrage de sa fonctionnalité. Par défaut, toute fenêtre de navigation privée identifiée empêche la capture d'écran. Il est possible d'ajuster sa liste d'applications et de sites web à ne pas surveiller, de définir la durée de stockage des données ou encore de supprimer l'historique d'une application. De plus, Recall est supposé être plus efficace pour repérer les données extrêmement sensibles telles que les mots de passe, identifiants nationaux et autres numéros de cartes bancaires afin de les rendre flous sur les enregistrements. Microsoft évoque toutefois une « diminution » des risques, et il est possible que certaines informations soient toujours présentes dans la base de données.

En somme, Microsoft a apporté plusieurs modifications à Recall :​

• Activation manuelle : Recall est désormais une fonctionnalité à activer explicitement par l'utilisateur.​
• Filtrage des données sensibles : Des mécanismes ont été mis en place pour exclure automatiquement les informations sensibles des captures d'écran.​
• Authentification renforcée : L'accès aux données de Recall nécessite une authentification via Windows Hello.​
• Stockage local sécurisé : Les données sont stockées localement avec des mesures de sécurité renforcées, bien que des préoccupations subsistent quant à leur vulnérabilité

Toujours un « cauchemar pour la vie privée » ?

Après son introduction en mai 2024, de nombreuses personnes ont d'abord décrit Recall comme un cauchemar en matière de protection de la vie privée, après que des experts en sécurité eurent averti qu'il représentait un risque potentiel pour la sécurité, car les pirates pouvaient facilement l'utiliser pour voler les données des utilisateurs.

Pour répondre à ces inquiétudes, Microsoft a fait de Recall une fonction en opt-in qui exige que les utilisateurs confirment leur présence à l'aide de Windows Hello.

Selon Redmond, Recall a également été mis à jour pour filtrer les informations sensibles, notamment les identifiants et les numéros de carte de crédit, et pour exclure certaines applications, sites web ou sessions de navigation privée de la capture.

En septembre, David Weston, vice-président de Microsoft chargé de la sécurité des entreprises et des systèmes d'exploitation, a également déclaré que Recall incluait désormais une protection contre les attaques de logiciels malveillants (rate-limiting et anti-hammering) et permettait aux utilisateurs d'ajuster les paramètres de stockage, de supprimer les instantanés et de désactiver complètement l'enregistrement des instantanés.

Le Dr Kris Shrishak, militant pour la protection de la vie privée, qui avait déjà qualifié Recall de « cauchemar en matière de protection de la vie privée », a déclaré que le mécanisme d'acceptation (opt-in) était « une amélioration », mais qu'il pouvait encore être utilisé à mauvais escient.

« Les informations concernant d'autres personnes, qui ne peuvent pas donner leur consentement, seront saisies et traitées par Recall », a-t-il déclaré à la BBC.

Cette fonction permet de sauvegarder des images de vos courriels et de vos applications de messagerie telles que WhatsApp, ce qui signifie que les photos et les messages d'autres personnes seront sauvegardés. C'est comme si un utilisateur faisait lui-même une capture d'écran lorsqu'il reçoit un message.

« Pensez aux messages qui disparaissent sur Signal et qui sont stockés sur Recall pour toujours », a-t-il déclaré.

Il a ajouté qu'il craignait que des acteurs malveillants puissent exploiter les images sauvegardées par Recall s'ils obtenaient un accès de connexion à un appareil.

Le déploiement est prévu aussi pour l'Europe, y compris la France, où apparemment, cette fonction sera nommée « Retrouver ».

Sources : Microsoft, revenir sur vos pas avec Retrouver

Et vous ?

Peut-on vraiment faire confiance à Microsoft pour gérer localement nos données sensibles alors que tant de failles proviennent souvent de l'intérieur même des systèmes d'exploitation ?

Le fait que Recall soit activé manuellement suffit-il à lever les inquiétudes en matière de vie privée ou s'agit-il d'une simple stratégie de communication ?

Est-ce qu’une fonctionnalité qui capture automatiquement ce que vous voyez à l’écran peut être considérée comme compatible avec le RGPD en Europe ou d'autres lois sur la protection des données ?

Les gains de productivité potentiels justifient-ils une surveillance continue de l’activité utilisateur ?

N’est-ce pas le symptôme d’une société numérique où l’utilisateur est devenu à la fois consommateur et matière première pour l’IA ?