IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La scientifique en chef de Microsoft Research rejette les préoccupations selon lesquelles la fonction d'IA Windows Recall est un cauchemar pour la vie privée
Et une mine d'or pour les pirates informatiques

Le , par Mathis Lucas

41PARTAGES

6  0 
Jaime Teevan, scientifique en chef de Microsoft Research, rejette les problèmes de confidentialité des données et de protection de la vie privée relevés par les utilisateurs au sujet de la fonction d'IA Windows Recall des PC Copilot+. Elle a défendu l'idée derrière la fonctionnalité, affirmant que l'IA générative permet à Microsoft de redéfinir la façon dont l'entreprise collecte, traite et exploite les données personnelles des utilisateurs. Elle a de nouveau précisé que les données collectées par Recall ne sont pas envoyées sur le cloud, mais stockées localement sur la machine de l'utilisateur. Toutefois, son intervention reste floue et ne convainc pas grand monde.

Microsoft a annoncé la fonction Recall lors de l'événement Build le mois dernier. Recall est une fonction basée sur l'IA pour les PC Copilot+. Elle suit toutes les activités d'un PC Windows afin de faciliter les recherches ultérieures en utilisant le langage nature. Pour ce faire, Recall est censée capturer les données de toutes les applications, sauf si vous en excluez une, en prenant une série de captures d'écran et en stockant ces interactions dans une base de données. La fonction Recall s'exécute localement. Elle peut fonctionner sans connexion Internet et même lorsque vous n'êtes pas connecté à votre compte Microsoft.

Mais Recall est décriée par les experts en sécurité. Si quelqu'un d'autre que vous accède aux données collectées par Recall, les conséquences pourraient être désastreuses. Cela peut vous sembler familier, Recall est remarquablement similaire à la fonctionnalité Timeline de Windows 10, qui a échoué et a été mise de côté. Mais contrairement à Timeline, Recall ne se contente pas de restaurer une version de vos fichiers de bureau, il utilise l'IA pour vous ramener à ce moment, en ouvrant même les applications pertinentes. Un pirate qui parvient à trouver et exploiter une faille dans Recall pourrait causer des dégâts énormes.


Jaime Teevan de Microsoft ne partage toutefois pas le même avis. Elle a éludé habilement la question lorsqu'elle a été interrogée sur les préoccupations soulevées par Recall en matière de sécurité et de protection de la vie privée. Teevan s'est exprimée sur la question mercredi lors d'un entretien avec Erik Brynjolfsson, directeur du Stanford Digital Economy Lab, à l'occasion du cinquième anniversaire de la division "Institute for Human-Centered Artificial Intelligence" de l'université américaine. Brynjolfsson a notamment souligné que la fonctionnalité Recall a fait l'objet d'une mauvaise presse depuis son annonce le mois passé.

Brynjolfsson a ensuite encouragé Teevan à aborder ces questions : « parlez-nous donc des avantages et des inconvénients de l'utilisation de toutes ces données, des risques qu'elle engendre et des opportunités qu'elle offre ». Bien que la question semble simple et facilement compréhensible, Teevan y a répondu en restant vague et évasive. Elle a déclaré :

Citation Envoyé par Jaime Teevan

C'est une excellente question, Erik. Cette question a été soulevée tout au long de la matinée : l'importance des données. Cette révolution de l'IA dans laquelle nous nous trouvons actuellement est en train de changer la façon dont nous comprenons les données.

Microsoft aide généralement les grandes entreprises à gérer leurs données, à créer des données, à partager des données, et ces données sont vraiment quelque chose qui rend le travail différent dans le contexte de l'IA générative.

En tant qu'individus, nous disposons également de données importantes, des données avec lesquelles nous interagissons en permanence, et il est possible de commencer à réfléchir à la manière de le faire et à ce que cela signifie d'être en mesure de les capturer et de les utiliser.

Mais bien sûr, nous sommes en train de repenser ce que les données signifient et la façon dont nous les utilisons, la façon dont nous les valorisons, et la façon dont elles sont utilisées
La réponse de Teevan est vague et n'est pas très utile. Ne se laissant pas décourager par le refus de Teevan de reconnaître pourquoi Recall a touché un point sensible, Brynjolfsson a approfondi la question : « la mémoire est-elle stockée localement ? Supposons que j'active Recall, et je ne sais pas si je peux le faire, mais quand vous avez quelque chose comme ça à disposition, je m'inquiéterais de voir tous mes fichiers personnels partir dans le cloud, chez Microsoft ou ailleurs. Est-ce que vous les gardez localement ? ». Comme indiqué plus haut, Microsoft affirme que la fonctionnalité traite les données localement.

Teevan a répondu comme suit : « oui, oui, il s'agit d'une chose fondamentale à laquelle nous tenons beaucoup en tant qu'entreprise, à savoir la protection des données. Recall est donc une fonction qui permet de capturer des informations. Il s'agit d'une fonctionnalité locale de Windows, rien ne va dans le cloud, tout est stocké localement ». C'était tout. La scientifique de Microsoft a répondu à la question comme si l'enregistrement continu des activités numériques d'une personne à travers une série de captures d'écran et l'établissement journaux d'activité n'avait aucune incidence négative sur la sécurité ou la vie privée.

Même si les données sont stockées et traitées localement, la réponse de Teevan ne semble pas trop rassurante à la lumière de la publication de l'outil "TotalRecall" du chercheur en sécurité Alex Hagenah. Ce code peut extraire et afficher des données de la base de données SQLite non chiffrée de Recall, dans laquelle la fonctionnalité stocke des instantanés de l'activité de l'utilisateur. Des questions plus difficiles n'ont malheureusement pas été soulevées lors de l'entretien, et Teevan n'a certainement pas profité de l'occasion pour s'attaquer de manière proactive à certaines des attaques dont Recall a fait l'objet ces derniers temps.

Le souci, c'est que Recall représente une épée à double tranchant, avec d'un côté la commodité d'une recherche surpuissante de tout l'historique d'utilisation de votre PC, et de l'autre le spectre de toutes ces données tombant entre les mains d'un pirate informatique. Dire que la mise en œuvre de la fonction d'IA soulève de nombreuses questions en matière de sécurité et de respect de la vie privée serait un euphémisme. Selon Kevin Beaumont, expert en sécurité, Recall aura une utilité limitée pour la plupart des utilisateurs, mais le risque de sécurité est si important qu'elle pourrait entraîner l'arrêt de la distribution des PC Copilot+.

« Je pense qu'il s'agit d'une fonction intéressante, entièrement optionnelle, avec une base d'utilisateurs initiale restreinte, qui nécessiterait une communication, une cybersécurité, une ingénierie et une mise en œuvre incroyablement prudentes. Copilot+ Recall n'en dispose pas. Le travail n'a pas été fait correctement pour l'intégrer, c'est clair ». Certaines personnes s'inquiètent déjà des implications juridiques. Les avocats pourraient utiliser les données collectées par Recall contre quelqu'un (en accédant éventuellement à toutes sortes de messages passés, même ceux qui sont de type suppression automatique après lecture).

Face à la controverse, de nombreux guides expliquant comment désactiver la fonction ont déjà été publiés en ligne avant le lancement de la fonctionnalité. La version courte : allez dans les paramètres de Windows, sélectionnez Confidentialité et sécurité, puis Recall & Snapshots et utilisez ces paramètres pour désactiver la fonction ou supprimer toutes les données qui ont déjà été collectées.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la fonctionnalité Windows Recall des PC Copilot+ ?
En quoi cette fonctionnalité peut-elle être utile ? Quid des risques de sécurité qu'elle introduit ?
Microsoft devrait-il abandonner cette fonctionnalité ? L'entreprise peut-elle rendre Recall plus sûre ?

Voir aussi

Recall de Windows 11 donne la possibilité à des tiers de voler tout ce que vous avez tapé ou regardé sur votre PC, d'après les tests effectués par un chercheur en sécurité

Un développeur prouve que la fonctionnalité d'IA Windows Recall n'a pas besoin d'un PC Copilot+ équipé d'un matériel NPU pour fonctionner, malgré les recommandations systèmes de Microsoft

Microsoft lance de nouveaux PC Copilot+ alimentés par l'IA, qui suivent et recherchent toutes vos activités. L'entreprise précise que de nombreuses tâches d'IA fonctionnent sans faire appel au cloud

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de pierre-y
Membre chevronné https://www.developpez.com
Le 08/06/2024 à 10:03
On va apprendre qu'elle peut être activé de manière détourné... Merci en tout cas j'avais juste besoin de ça pour passer sur linux.
9  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 08/06/2024 à 11:24
Citation Envoyé par Patrick Ruiz Voir le message
Que pensez-vous de cette annonce de Microsoft en lien avec les modifications apportées à Recall pour Windows 11 ? Quelles sont les attentes que vous avez à formuler à l’endroit de Microsoft pour ce qui est de Recall pour Windows 11 ?
Pourquoi la désactiver, plutôt que de la supprimer?

C'est comme si on disait que plutôt que de retirer une backdoor, on la désactivait.

Ça laisse donc la possibilité de réactiver ce truc à la première infection par un malware, ou "par erreur" lors d'une mise à jour future...
9  0 
Avatar de LittleWhite
Responsable 2D/3D/Jeux https://www.developpez.com
Le 08/06/2024 à 9:36
[TROLL]Jusqu'à la réactivation par inadvertance à la prochaine mise à jour de Windows[/TROLL]

« Nous ajoutons des couches supplémentaires de protection des données, notamment une via la sécurité d'ouverture de session améliorée (ESS) de Windows Hello, de sorte que les instantanés de Recall ne seront déchiffrés et accessibles que lorsque l'utilisateur s'authentifiera. En outre, nous avons chiffré la base de données de l'index de recherche », ajoute le géant technologique.
Session ? Session utilisateur, ou la session "Recall" ? Car dans le premier cas, ça veut dire que la BDD est déchiffrée 90 % du temps, non ?
8  0 
Avatar de NotABread
Membre habitué https://www.developpez.com
Le 02/09/2024 à 17:51
Quand le fait de pouvoir désinstaller une application est un bug ...
Bon, ok je troll un peu, le bug c'est plus que ça s'affiche comme désactivable alors que ça ne l'ai pas. Mais c'est désolant de voir les éditeurs laisser le moins de choix possible aux utilisateur, ou cacher le plus possible les paramètres qu'ils ne veulent pas que les utilisateurs changent
9  1 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 02/09/2024 à 20:04
Citation Envoyé par OrthodoxWindows Voir le message
Tout est ici : Cela signifie que non seulement aucun utilisateur ne sera obliger d'utiliser Recall, mais qu'il faudra donner son autorisation pour qu'il s'active.
Ce qui n'enlève rien à la dangerosité de l'utiliser, ni au problème de la télémétrie de Microsoft...
Ça c'est un vœux pieu pour noyer le poisson, dans la réalité quand il a été lancé recall était mis d'office et non désactivable, bourré de failles, Windows 11 est mal foutu et moins bien que Windows 10, truffé de spywares et de pubs, horrible, pendant ce temps Linux est en hausse.
Microsoft ne cherche pas à améliorer Windows mais à le rentre plus profitable, la nouvelle équipe qui le gère ne comprends rien aux besoins des utilisateurs, ils font n'importe quoi, et les anciens développeurs de Microsoft à la retraite sont dégoutés de voir ça, tout leur travail massacré par un cadre aux ordres des actionnaires et du profit coute que coute, la satisfaction client connais pas...

Bientôt ceux qui veulent rester sous Windows 10 et qui ne veulent pas passer à cette merde de Windows 11 seront surtaxés par Microsoft pour garder leur Windows à jour, c'est une honte et du racket pur et simple, la solution migrer de Windows 10 à Linux.
8  1 
Avatar de bmayesky
Membre régulier https://www.developpez.com
Le 06/09/2024 à 6:49
Vu que je suis passé à Linux il y a des années, je ne quitterais pas immédiatement Windows. C'est un espion de votre vie privée plus qu'un système d'exploitation d'ordinateur. Et dire que nous rouspétons sur Google et Facebook.

Il n'y a rien à dire à ce genre de logiciel imposé sinon "fuyez". Mac c'est plus cher et c'est mieux. Linux c'est moins cher et c'est mieux aussi. Alors arrêtez de vous faire du mal et cessez d'utiliser Windows.

Recall et Recall2 m'ont fait basculer de "faite ce que vous voulez" à "fuyez Windows pour sauver votre vie privée". Et dire que Microsoft fait payer ce truc.
6  0 
Avatar de NotABread
Membre habitué https://www.developpez.com
Le 03/09/2024 à 13:04
Citation Envoyé par OrthodoxWindows Voir le message
Tout est ici :

Cela signifie que non seulement aucun utilisateur ne sera obliger d'utiliser Recall, mais qu'il faudra donner son autorisation pour qu'il s'active.
Ce qui n'enlève rien à la dangerosité de l'utiliser, ni au problème de la télémétrie de Microsoft...
Cela ne reste pas moins anormal de ne pas pouvoir désinstaller une application non cruciale et qui de plus s'est rajoutée en cours de route. Si l'appli est installée, on ne reste pas à l'abri d'un bug (involontaire ou non) qui perdrait la préférence utilisateur pour l'activer (et oui, déjà vu ça avec Windows 11).
C'est une sale habitude qui s'est démocratisée avec les smartphones où l'on se retrouve souvent avec des applis que l'on ne peut désinstaller sans hack (la palme d'or revenant au playstore et les services google qui écrasent une lib système, rendant impossible leur suppression sans réinstaller l'OS).
5  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 08/09/2024 à 12:46
Citation Envoyé par TotoParis Voir le message
Les vendeurs d'anti-virus vont réagir comment avec ce logiciel d'espionnage ?
Ils vont simplement adapter très rapidement leurs logiciels pour que l'espionnage de Microsoft soit accepté par leur produits!!!

Est-ce que certains auraient oublié que le 100% de leur revenus dépend du bon-vouloir de Microsoft???
5  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 12/10/2024 à 0:37
et bien je vais rester sur win10 voir retourner sur win7 alors
5  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 08/06/2024 à 11:31
simple desactivation plutot que supression...

Car plus simple a reactiver sur demande externe, dans une maj widows update, ou par inadvertance.
ou activé, peu importe les settings, juste que si les settings, disent que c'est pas activé, l'utilisateur n'a pas d'infos comme quoi le truc tourne.

MS a trop besoin de cette merde pour entrainer son IA, qu'il ne vont pas stopper.

mais je rejoins certains com. j'avais juste besoin de ca pour trouver la force de partir definitivement sur linux.
4  0