Windows 11 : un test de l'outil IA de Microsoft Recall est toujours capable d'enregistrer cartes bancaires, mots de passe et données sensibles malgré le paramètre « Filtrer les informations sensibles » activé

Windows 11 Copilot+ et Recall : un test montre que l'outil IA de Microsoft est toujours capable d’enregistrer cartes bancaires, mots de passe et données sensibles
malgré le paramètre « Filtrer les informations sensibles » activé par défaut et censé les exclure

Microsoft Recall, l'application d'intelligence artificielle qui prend des captures d'écran de ce que vous faites sur votre PC afin que vous puissiez effectuer des recherches ultérieurement, dispose d'un filtre censé l'empêcher de capturer des informations sensibles telles que les numéros de carte de crédit. Cependant, un test montre que ce filtre échoue encore dans de nombreux cas, créant ainsi une mine d'or potentielle pour les voleurs.

Bien que Microsoft affirme que Recall est sûr et confidentiel, ce logiciel pourrait constituer une mine d'or d'informations personnelles si un malfaiteur parvenait à s'introduire dans votre système. L'application dispose d'un paramètre « Filtrer les informations sensibles » activé par défaut, qui est censé exclure les données personnelles telles que les numéros de carte de crédit et les mots de passe de la capture. Cependant, d'après des tests, ce filtre échoue fréquemment. De plus, il n'y a aucun moyen pour lui de savoir comment éviter les entrées potentiellement préjudiciables de votre historique Web que vous préférez garder privées (telles que celles liées à vos antécédents médicaux ou à votre vie personnelle). Tout aussi grave, les captures d'écran prises par Recall sont accessibles à toute personne disposant de votre code PIN, même via un accès à distance.

Recall : mémoire augmentée ou œil de Big Brother ?

Introduit comme l’une des fonctionnalités phares de la gamme Copilot+ PC, Microsoft Recall prétend révolutionner l’expérience utilisateur : en prenant des captures d’écran toutes les quelques secondes, le système garde un historique visuel complet de tout ce qui s’affiche sur l’écran. Grâce à l’IA, l’utilisateur peut ensuite rechercher des images, du texte ou des moments particuliers dans ce flux, comme il chercherait un fichier dans un moteur de recherche.

Microsoft présente Recall comme une solution locale et sécurisée, promettant que les données sont stockées uniquement sur le disque dur de l’utilisateur, sans transmission au cloud. Mais cette promesse ne suffit pas à apaiser les craintes.

Plusieurs experts ont rapidement souligné les risques : la fonction pourrait capturer des données bancaires, des messages privés, des documents médicaux, des identifiants, et bien plus encore. Le stockage local, s’il n’est pas chiffré correctement, reste vulnérable en cas de vol, d’intrusion ou d’attaque par ransomware. Pire encore, des chercheurs ont démontré qu’il était possible d’exfiltrer les données de Recall avec des techniques relativement simples.


Après un an de critiques, Microsoft déploie à nouveau sa fonctionnalité IA Windows Recall

Dès sa présentation en 2024, Windows Recall a suscité un vif débat autour de la confidentialité. La presse spécialisée et les experts ont rapidement pointé du doigt le potentiel intrusif de cette fonctionnalité capable « d'enregistrer tout ce que fait l’utilisateur sur son PC ». Certains l’ont même comparée à un spyware, parlant de « cauchemar pour la vie privée ». En effet, enregistrer et stocker chaque mot de passe tapé, chaque message confidentiel affiché ou chaque document sensible ouvert revient à constituer une mine d’or de données personnelles. « Recall prend des captures d’écran de tout ce que vous faites dans Windows », résumait un expert, alertant sur le fait que ces données pourraient, en cas d’abus ou de fuite, servir à surveiller les utilisateurs.

Les critiques ne provenaient pas seulement de la communauté technique. Des organismes de régulation se sont également manifestés. Le ICO britannique (Information Commissioner’s Office), le régulateur de protection des données au Royaume-Uni, a indiqué avoir interpellé Microsoft afin de « comprendre quelles mesures de sauvegarde sont en place pour protéger la vie privée des utilisateurs ». Ce parallèle fait avec des outils malveillants (on a parlé de keylogger, ou enregistreur de frappe) et l’attention des autorités ont mis en évidence un risque : Windows Recall, tel qu’initialement conçu, pourrait créer un gisement de données extrêmement sensible – une cible tentante pour des pirates s’ils parvenaient à l’exploiter.

Face à ce tollé et aux préoccupations en matière de conformité (notamment vis-à-vis du RGPD, le règlement général sur la protection des données en Europe), Microsoft a préféré jouer la prudence. Quelques jours avant la date de lancement prévue en juin 2024, l’entreprise a finalement fait marche arrière et reporté la sortie de Recall. Ce délai, qui aura duré près d’un an, devait permettre de renforcer la sécurité de la fonctionnalité et de rassurer utilisateurs comme régulateurs.

Microsoft a travaillé sur Windows Recall afin de répondre aux critiques

Pendant de longs mois, Microsoft a retravaillé Windows Recall afin de répondre aux critiques formulées. La principale modification annoncée a été de rendre l’outil désactivé par défaut, c’est-à-dire entièrement opt-in. Autrement dit, Recall ne s’activera que si l’utilisateur le choisit expressément – une concession cruciale pour respecter le consentement utilisateur exigé par la réglementation.

Ensuite, Microsoft a verrouillé l’accès aux données capturées. Pour activer Recall la première fois, l’utilisateur doit prouver son identité via le système biométrique Windows Hello (reconnaissance faciale, empreinte digitale ou code PIN sécurisé). Cette authentification forte est également requise à chaque fois que l’on souhaite consulter l’historique des captures dans l’application Recall, assurant que seul l’utilisateur légitime puisse voir ces images. « La première fois que vous activez Recall, vous devez biométriquement prouver que vous êtes l’utilisateur connecté », souligne David Weston, vice-président Sécurité chez Microsoft. Microsoft utilise même une version renforcée de Windows Hello pour éviter qu’un malware ne usurpe l’identité biométrique de l’utilisateur via la caméra.

En parallèle, toutes les données de Recall sont chiffrées de bout en bout et stockées localement. Microsoft assure qu’aucune des captures n’est jamais transmise sur ses serveurs ou dans le cloud. Les clichés restent dans le stockage de l’appareil, dans un format chiffré et isolé. Weston explique que les clés de chiffrement et les images sont même isolées du reste du système en les plaçant dans le module de sécurité TPM et au sein d’une machine virtuelle sécurisée dédiée. Ainsi, même si le système principal était compromis par un malware, l’attaquant ne devrait pas pouvoir accéder aux données de Recall, qui ne sont déchiffrées qu’au moment où l’utilisateur y accède lui-même après authentification. Microsoft a également introduit un mécanisme de « déchiffrement à la volée » (just-in-time decryption) couplé à Windows Hello, garantissant que les instantanés ne soient déchiffrés qu’en présence de l’utilisateur autorisé.

Enfin, des efforts ont porté sur la maîtrise de ce qui est capturé. L’application Recall offre des paramètres de filtrage afin d’exclure certaines applications ou sites web de la capture automatique. On peut par exemple demander à ce que les applications bancaires ou de messagerie privée ne soient jamais enregistrées. L’utilisateur conserve par ailleurs la possibilité de supprimer manuellement n’importe quelle capture ou l’intégralité de son historique à tout moment. Microsoft indique avoir intégré des filtres intelligents capables de détecter des données sensibles (comme des numéros de carte de crédit ou des identifiants gouvernementaux) et de suspendre la capture lorsqu’une information confidentielle apparaît à l’écran. Cette liste de filtres sera amenée à s’enrichir continuellement, d’après l’éditeur, pour éviter que des informations trop sensibles ne se retrouvent stockées involontairement.

Microsoft Recall encore bien loin du compte en matière de sécurité : les informations sensibles filtrent encore

Ci-dessous, les conclusions d'un test réalisé par Avram Piltch de The Register :

Pour vérifier l'efficacité du filtre de données sensibles, j'ai utilisé un PC Lenovo Yoga Slim 7x Copilot+ équipé de Recall et j'ai essayé de saisir divers types de données personnelles que personne ne souhaiterait voir tomber entre de mauvaises mains. Il faut reconnaître que l'outil a correctement identifié et exclu de nombreuses données financières, certains mots de passe et la plupart des numéros de sécurité sociale.

Lorsque je me suis connecté à mon compte bancaire, Recall a intercepté la page d'accueil de ma banque ainsi que plusieurs écrans affichant mon solde et la liste de mes dépôts. Le côté positif, c'est qu'il a correctement exclu l'écran affichant mon compte et mes numéros ABA. Ainsi, un pirate saurait quelle banque j'utilise et combien d'argent j'ai, deux informations qui pourraient lui être utiles, mais il ne connaîtrait pas mes identifiants ni mon numéro de compte.

Recall a fait du bon travail avec les formulaires d'achat. Lorsque je me suis rendu sur le site de Microsoft et que j'ai ajouté une carte de crédit à mon compte, il a pris une capture d'écran avec les champs du numéro de carte, du code CVC et de la date laissés vides. Et lorsque j'ai créé ma propre fausse page web avec un formulaire de saisie de carte de crédit (avec les lettres CC: devant le champ du numéro), le logiciel l'a filtré.

Cependant, lorsque j'ai supprimé du formulaire des mentions telles que « page de paiement » et « Entrer les informations de paiement », en laissant le numéro de carte de crédit, la date d'expiration et le code CVC, Recall l'a capturé. Il est peut-être injuste d'attendre du logiciel qu'il identifie un numéro de carte de crédit sans mots tels que « carte de crédit » ou « payer » à proximité, mais tous les formulaires d'achat ne se ressemblent pas.

Le blocage des mots de passe était mitigé. Lorsque j'ai ouvert le gestionnaire de mots de passe de Google Chrome, Recall l'a correctement filtré. L'outil mérite une mention spéciale pour ne pas avoir capturé cette information sensible, même lorsque j'ai pris une capture d'écran dans l'outil Snipping Tool et l'ai affichée à l'écran. Il a également fonctionné lorsque j'ai créé un fichier texte dans Notepad contenant les mots « nom d'utilisateur » et « mot de passe ».

Cependant, lorsque j'ai simplement répertorié les noms d'utilisateur et les mots de passe dans un fichier texte sans ces identifiants, il a capturé l'écran. Nous ne devrions peut-être pas nous attendre à ce que Recall sache qu'un fichier texte contient des mots de passe – et, non, vous ne devriez pas conserver vos mots de passe dans un fichier texte –, mais beaucoup de gens ont probablement des listes de leurs mots de passe sans que le mot « mot de passe » soit imprimé à côté.

Il existe tellement de façons différentes de stocker et de consulter des données personnelles qu'il est impossible d'imaginer que Recall ou tout autre logiciel puisse toutes les détecter. Par exemple, lorsque j'ai saisi un numéro de sécurité sociale dans un document Word précédé du préfixe « Mon SS#: », l'outil n'a capturé qu'une image contenant les trois premiers chiffres. Cependant, lorsque j'ai utilisé le préfixe « Soc: », il a capturé tous les chiffres.

Lorsque je me suis connecté à mon compte PayPal, Recall a capturé l'écran de connexion affichant mon nom d'utilisateur, mais pas mon mot de passe. Il a correctement évité de faire une capture d'écran de la page du compte, qui affichait mes transactions, mais si un pirate disposait de mon nom d'utilisateur, c'est une partie des informations dont il aurait besoin pour y accéder.

Dans un autre cas, j'avais une photo de mon passeport visible à l'écran et Recall l'a correctement évitée. Cependant, lorsque cette photo a été partiellement recouverte par une autre fenêtre, Recall a pris la capture d'écran.

« Microsoft ne nous a pas laissé d'autre choix », déclare Signal en bloquant Windows Recall

Signal a déclaré :

« Bien que Microsoft ait apporté plusieurs modifications au cours des douze derniers mois en réponse aux critiques, la version remaniée de Recall continue de mettre en danger tout contenu affiché dans des applications préservant la confidentialité telles que Signal. Par conséquent, nous activons par défaut une couche de protection supplémentaire sur Windows 11 afin de contribuer à maintenir la sécurité de Signal Desktop sur cette plateforme, même si cela implique certains compromis en termes de convivialité. Microsoft ne nous a tout simplement pas laissé d'autre choix.

« Microsoft a lancé Recall sans proposer aux développeurs d'applications des paramètres granulaires qui permettraient à Signal de protéger facilement la confidentialité, ce qui constitue une omission flagrante qui limite nos choix. Signal utilise les outils qui sont à notre disposition, même si nous reconnaissons qu'il existe de nombreux cas d'utilisation légitimes où quelqu'un pourrait avoir besoin de faire une capture d'écran. Par exemple, certains logiciels d'accessibilité (tels que les lecteurs d'écran ou les outils d'agrandissement pour les personnes malvoyantes) pourraient ne pas fonctionner correctement sans cela ».

Brave : un engagement clair en faveur de la vie privée

Fondé sur le principe de la confidentialité par conception, Brave s'est rapidement imposé comme une alternative crédible aux navigateurs traditionnels. Le blocage des traqueurs publicitaires, la protection contre le fingerprinting numérique et un modèle de récompense basé sur la cryptomonnaie (BAT) pour les créateurs de contenu sont autant de caractéristiques qui ont attiré une base d'utilisateurs soucieux de leur vie privée.

La décision de Brave de bloquer Microsoft Recall par défaut s'inscrit parfaitement dans cette philosophie. Plutôt que de laisser aux utilisateurs le soin de désactiver manuellement une fonctionnalité potentiellement invasive, Brave prend l'initiative de protéger ses utilisateurs dès le départ. Ce choix renforce la position de Brave en tant que gardien de la vie privée numérique et envoie un message clair aux géants de la technologie : la commodité ne doit pas se faire au détriment de la sécurité et de la confidentialité des données personnelles.

Source : Avram Piltch

Et vous ?

Compte tenu de ces découvertes, peut-on encore faire confiance aux affirmations de Microsoft concernant la sécurité et la confidentialité de ses fonctionnalités basées sur l'IA ?

Le fait que Recall stocke potentiellement des informations sensibles localement rend-il l'outil plus dangereux qu'un service cloud qui aurait des garanties de chiffrement et d'accès plus strictes ?

Quelle est la part de responsabilité de Microsoft, et quelle est celle de l'utilisateur qui choisit d'activer cette fonctionnalité sans en comprendre pleinement les risques ?

Pensez-vous que cette affaire aura un impact sur l'adoption des futures fonctionnalités d'IA sur les systèmes d'exploitation, et que les utilisateurs deviendront plus méfiants ?