Le scientifique en chef de Microsoft Research n’a aucun problème à appeler le registre • Windows

Lorsqu’on lui a demandé d’explorer les problèmes de confidentialité des données découlant de Microsoft Recall, un outil d’auto-surveillance qui n’a pas été reçu par le fabricant de Windows, Jaime Teevan, scientifique en chef et chercheur technique chez Microsoft Research, a balayé ces inquiétudes.

Tevan s’exprimait mercredi avec Erik Brynjolfsson, directeur du Digital Economy Lab de l’Université de Stanford, lors de la conférence du cinquième anniversaire de l’Institut d’intelligence artificielle centrée sur l’humain de l’Université américaine.

Brynjolfsson a déclaré que lorsque le rappel a été annoncé, il y a eu « une sorte de réaction contre tous les défis en matière de confidentialité qui l’entourent. Parlons donc des avantages et des inconvénients de l’utilisation de toutes ces données et de certains des risques qu’elles créent ainsi que de certaines des opportunités. « 

De toute évidence, c’était un sujet populaire.

Bien sûr, nous repensons ce que signifient les données, comment nous les utilisons, comment nous les évaluons et comment elles sont utilisées.

« Oui, et c’est une excellente question, Eric », a déclaré Tevan. « Cela a également été évoqué toute la matinée : l’importance des données. Et la révolution de l’IA à laquelle nous assistons actuellement change vraiment la façon dont nous comprenons les données. »

Elle a poursuivi : « Microsoft aide généralement les grandes organisations à gérer leurs données, à créer des données et à partager des données, et ces données sont vraiment quelque chose qui rend le travail des entreprises différent dans le contexte de l’IA générative.

« En tant qu’individus également, nous disposons de données importantes, de données avec lesquelles nous interagissons tout le temps, et il existe une opportunité de commencer à réfléchir à la manière dont nous procédons et à ce que cela signifie de pouvoir les capturer et les utiliser. Mais bien sûr, nous repensons ce que signifient les données et comment nous les utilisons, comment nous les évaluons et comment elles sont utilisées.

Enregistrer J’ai remarqué lorsque Recall a été introduit dans Microsoft Build le mois dernier que le logiciel – qui crée une archive de captures d’écran prises toutes les quelques secondes et enregistre les activités des utilisateurs, afin que les actions précédentes puissent être mémorisées – présente un risque important pour la confidentialité. Comme récemment décrit Créé par l’auteur Charlie Strouse, c’est « le produit dont personne ne veut » et « une démonstration de conneries de confidentialité absolue ».

Inébranlable devant la réticence de Tevan à admettre pourquoi Recall provoquait des tensions, Brynjolfsson a enquêté plus en profondeur.

« Est-il stocké localement ? » Demandé. « Alors disons que j’active Recall, et je ne sais pas si je peux, mais quand vous avez quelque chose comme ça, je m’inquiéterais de voir tous mes fichiers personnels aller vers le cloud, ou Microsoft, ou quelque chose comme ça. Avez-vous ça ? Rester local ? »

Tevan a répondu : « Oui, oui, c’est la principale chose qui nous tient à cœur en tant qu’entreprise, c’est en fait la protection des données. Donc Recall est une fonctionnalité qui capture des informations. C’est une fonction Windows locale, rien ne va dans le cloud, tout est stocké. » localement. »

Et c’était comme si l’enregistrement constant des activités informatiques d’une personne dans une série de captures d’écran et de journaux d’activité n’avait aucune implication en matière de sécurité ou de confidentialité si les données étaient locales et protégées par les informations d’identification du compte Microsoft – ce qui n’est pas très rassurant à la lumière de la publication du chercheur en sécurité Alex Hagenah. outil Rappel total. Ce code peut extraire et afficher des données de la base de données SQLite non chiffrée de Recall, où la « fonctionnalité » du système d’exploitation stocke des instantanés de l’activité des utilisateurs.

Pendant ce temps, les chercheurs et les analystes de la sécurité continuent de demander que le rappel, qui devrait être publié plus tard ce mois-ci, soit oublié.

Comme le soutient Stross, les ordinateurs Windows équipés d’une assignation à comparaître seront ciblés par les avocats lors des procédures d’enquête préalable, car ils donneront accès non seulement aux e-mails, mais aussi aux conversations dans n’importe quelle application de messagerie ou de collaboration, et potentiellement aux conversations parlées si les données de transfert de parole sont capturées vers du texte. par l’enregistreur d’activité de Redmond. Il est également facile pour un pirate informatique de fouiner sur ce que sa victime a fait récemment, tant personnellement qu’au travail.

« C’est absurde pour toute organisation qui gère des dossiers médicaux ou qui a une obligation légale de confidentialité ; en fait, pour toute entreprise qui doit se conformer au RGPD (comment Recall gère-t-il le droit à l’oubli ? Bref : mal), ou à la HIPAA. » Aux États-Unis », a-t-il écrit dans son message.

« Cette faille va à l’encontre de la législation sur la protection de la vie privée dans l’ensemble de l’UE (et au Royaume-Uni) et dans les organismes de santé du monde entier qui ont un droit médical à la vie privée. »

Faisant référence à la capacité de Recall à éviter d’attraper du contenu DRM, l’écrivain de science-fiction a poursuivi : « Les seules personnes dont la vie privée n’est pas violée sont les studios hollywoodiens et Netflix, ce qui vous dit quelque chose sur l’état des choses. » ®

Également à l’Université de Stanford : Pour résoudre la crise énergétique de l’IA, « tout le spectre, depuis les électrons jusqu’aux algorithmes, doit être repensé », estime le professeur de physique.