Le terrifiant présent du big data et de la surveillance :Une conversation avec Jennifer Granick

Dans le monde hyperconnecté d’aujourd’hui, les inquiétudes grandissent autour de la vie privée et de la surveillance gouvernementale.La technologie est plus intelligente et plus rapide que jamais, tout comme les stratégies gouvernementales d’écoute.En tant qu'avocate de l'ACLU, Jennifer Granick (TED Talk : Comment le gouvernement américain espionne les personnes qui manifestent – ​​vous y compris) vise à démystifier le paysage juridique obscur des droits civils en matière de vie privée, en protégeant notre liberté de vie privée contre les intérêts gouvernementaux et privés.Nous avons discuté avec elle de la lutte contre la surveillance gouvernementale, de la manière dont vous pouvez protéger vos données et des raisons pour lesquelles la transparence juridique – et les poursuites judiciaires – sont essentielles.

Dans votre conférence à TEDxStanford, vous détaillez une partie de l’histoire et des méthodes de surveillance gouvernementale aux États-Unis.Pouvez-vous nous expliquer comment ces méthodes ont évolué à mesure que la technologie progressait ?

Comme l’a dit le juge de la Cour suprême John Roberts, c’est la différence entre « une balade à cheval [et] un vol vers la lune ». La quantité d’informations disponibles sur nous est exponentiellement plus importante ;la facilité d’y accéder et de l’analyser, grâce aux outils Big Data, au stockage et à la recherche automatique, est catégoriquement différente.Dans le même temps, les lois destinées à protéger notre vie privée ont été dégradées à plusieurs reprises, plus récemment au nom de la guerre contre le terrorisme.Tout est plus grand ;il y a tellement plus là-bas.

Dans votre exposé, vous avez mentionné que l’article 702 des amendements de la FISA (qui permet aux agences gouvernementales américaines de surveiller les « menaces terroristes étrangères ») a expiré en 2017.Quel genre d’impact cela aura-t-il sur le paysage de la surveillance ?

Il y a eu une longue bataille politique autour de 702 et pour tenter de le modifier.Ce qui s’est finalement produit, c’est que le Congrès l’a simplement réautorisé et l’a adopté dans le cadre d’un projet de loi plus vaste, sans véritable réforme.Le mouvement visant à tenter de faire quelque chose a complètement échoué.Cela signifie qu’à l’heure actuelle, avec plus de confiance que jamais, la communauté du renseignement et [ses] agences peuvent recueillir des informations au nom du ciblage des étrangers et stocker toutes ces informations.Ainsi, ils peuvent effectuer des recherches dans les conversations que nous avons avec des personnes à l’étranger.Les nouvelles qui se sont produites depuis lors montrent qu’il existe encore des erreurs et des problèmes dans la manière dont ces agences de renseignement traitent les informations et qu’elles enfreignent régulièrement les règles.Il y a eu une histoire récente à propos de le FBI viole les règles 702.Il n’y a aucune obligation de se conformer à la loi ;aussi faible soit-il, ce n’est fondamentalement pas un problème.

Quel rôle les entreprises technologiques comme Amazon et Facebook jouent-elles dans la perpétuation de ces efforts de surveillance ?

Les entreprises ne veulent pas se conformer à toute une série de procédures juridiques, mais lorsqu’elles le font, elles veulent que ce qu’elles sont censées faire soit clair et elles ne veulent aucune responsabilité à cet égard.Les entreprises ont fait part de leur volonté de limiter la surveillance gouvernementale à des fins légitimes pour rassurer leurs utilisateurs non américains, et elles ont insisté pour une certaine clarté et régularité dans la manière dont la surveillance va se dérouler.Ils se sont prononcés en faveur d’un exercice plus contrôlé du 702, mais sans véritable réforme.Ils ont également soutenu la Loi sur le Cloud il s'agit d'une loi récente qui permet essentiellement aux gouvernements étrangers d'accéder aux informations stockées ici aux États-Unis sans répondre aux normes plus élevées de la procédure judiciaire américaine.Ils ne sont pas systématiquement des défenseurs des libertés civiles ou des défenseurs de la vie privée.

—————

Si une question politique vous intéresse – qu’il s’agisse de la réforme fiscale ou de Black Lives Matter – nous devons garantir que ces personnes peuvent agir librement dans le monde politique.

—————

La technologie de reconnaissance faciale comme « Rekognition » d’Amazon est utilisée par les forces de l’ordre à travers le pays.Quelles sont les préoccupations et les conséquences possibles liées à l’utilisation de cette technologie ?

L’identification faciale connectée aux caméras de surveillance est particulièrement dystopique, mais le Test de reconnaissance de l'ACLU de Californie du Nord montre que même les utilisations les plus piétonnes de la technologie sont dangereuses.Lors des tests, le logiciel a identifié à tort 28 membres du Congrès comme des personnes ayant été arrêtées pour un crime et a signalé de manière disproportionnée les membres du Congressional Black Caucus.Le problème est à la fois que cet outil est inexact et discriminatoire, mais aussi qu’il donne un pouvoir sans précédent à la police.

Dans un monde toujours connecté avec des technologies intelligentes dans nos maisons, nos voitures et nos poches, comment pouvons-nous nous préparer et éviter une surveillance intrusive ?

Numéro un :utiliser le cryptage.Le chiffrement de vos données devient de plus en plus simple et il existe des services de communication qui protègent vos communications.iMessage est destiné aux utilisateurs d'iPhone.Il y a aussi WhatsApp.J'utilise Signal, qui est un programme de messagerie texte.Le cryptage de vos données est de plus en plus simple.Pour beaucoup d’entre nous, l’un des plus grands défis n’est pas nécessairement le gouvernement : ce sont aussi les pirates informatiques, alors activez toujours l’authentification multifacteur.Ceci afin que ce ne soit pas comme si quelqu'un pouvait accéder à votre compte avec un mot de passe ;ils devront également disposer d’un autre type de jeton matériel.C’est une bonne chose à faire, et cela ne représente en réalité que très peu de travail supplémentaire.

—————

Cette idée selon laquelle vous pouvez être manipulé pour voir, croire, acheter et penser des choses qui ne sont pas ce que vous feriez normalement – ​​et personne ne le sait parce que personne ne sait que ce que je vois est différent de ce que vous voyez – est effrayante.

—————

N’utilisez pas de technologie qui n’a pas besoin d’être connectée à Internet.Si vous n’avez pas besoin de ce thermomètre pour bébé connecté à Internet, ne l’achetez pas.Il va envoyer vos données à une entreprise, et cette entreprise va les vendre à des spécialistes du marketing, et ce sera une source d'accès pour les forces de l'ordre.En particulier, je n’aime pas les assistants domestiques comme Alexa ou Google Home, car je pense qu’à terme, ces machines peuvent être utilisées pour écouter les gens.Pourquoi inviterions-nous un appareil de surveillance tout fait dans notre maison ?

Tout le monde aime les nouveautés et les choses amusantes – je connais beaucoup de gens qui ont ces assistants à domicile.J'ai un téléphone portable, j'adore Internet et j'utilise Facebook.Je pense que l’une des choses que les gens devraient vraiment faire est de faire pression pour de meilleures lois.C’est à cela que sert la loi.C'est censé nous protéger et nous permettent de participer à l’économie moderne.

À la fin de votre discours, vous concluez en disant qu’il faut exiger de la transparence.Que signifie pour vous la transparence et comment pouvons-nous y parvenir ?

Il y a tellement de choses que nous ignorons actuellement sur la surveillance.Dans le contexte criminel, on ne sait pas combien d’ordonnances de surveillance particulières sont émises.Nous ne savons pas quel genre d’informations ils obtiennent avec eux.Nous ne savons pas à quoi ils obligent les entreprises.Nous ne savons pas s’ils détournent potentiellement les mesures de sécurité afin de faciliter notre espionnage.C’est bien pire dans le contexte du renseignement, où nous avons ce tribunal de la FISA qui opère et émet des avis à huis clos.Ils sont censés publier ces avis, mais nous les voyons très rarement.Toute interprétation nouvelle et inédite du droit est destiné à être publié, mais depuis que ce décret est entré en vigueur, aucun avis de tribunal de la FISA n’a été déclassifié.Nous découvrons des choses bien après coup, comme la plus récente violation par le FBI des règles de l’article 702, qui signifiait que les agents avaient accès à des données et à des informations qu’ils n’étaient pas censés voir.Nous découvrons ces problèmes des années plus tard.Il y a tellement de choses que nous ne savons pas.

La transparence est une première étape, mais ce n’est pas une fin en soi.Il existe un Conseil de surveillance de la vie privée et des libertés civiles, et ce conseil n’a confirmé que récemment ses membres, et maintenant le quorum est à nouveau atteint.Pendant longtemps, ce conseil de surveillance, censé procéder à un examen approfondi des programmes de renseignement, n’a même pas fonctionné.Nous sommes en retard.Seuls quelques sénateurs et représentants s’en soucient, car la population ne se manifeste pas et ne dit pas : « C’est vraiment important pour nous ». Mais ils devraient l’être.

Il n’y a pas de raison plus évidente pour laquelle vous devriez vous soucier de la surveillance que l’administration Trump.Dans le passé, les gens qui étaient blasés à l’égard de la surveillance pensaient que si vous ne faisiez rien de mal, vous n’aviez pas à vous inquiéter : la police respecterait l’État de droit et tout le monde agirait de bonne foi.Mais aujourd’hui, vous êtes confronté à une situation extrême en matière d’immigration ;aujourd’hui, l’administration Trump punit les personnes qui viennent dans ce pays en kidnappant leurs enfants.Il y a un sexisme, un antisémitisme et un racisme endémiques, et cette idée selon laquelle les gens sont des « extrémistes de l’identité noire » qui devraient être surveillés – ce qui signifie simplement que le gouvernement surveille les militants des droits civiques et les communautés de couleur.Il y a donc cette situation où cette immense quantité de pouvoir technique est entre les mains de personnes qui agissent de mauvaise foi, sur la base des motifs les plus bas.

Qu’est-ce que cela signifie que toutes ces informations ont été collectées et peuvent être consultées, manipulées et vendues ?Et comment parler à ceux qui ne sont pas concernés et croient n’avoir rien à cacher ?

Il y a deux choses.La première est que tout le monde a commis des crimes.Le nombre de comportements couverts par les lois pénales est énorme : qu’il s’agisse de fumer de l’herbe ou de mentir sur ses impôts, il existe de nombreuses façons de transgresser la loi.Personne n’est propre à 100 pour cent.Si quelqu’un voulait vous poursuivre et savait tout de vous, il disposerait de suffisamment d’informations pour le faire.Ce ne sont pas seulement des affaires criminelles ;ce sont des bêtises que vous avez dites dans le passé ou des personnes avec qui vous étiez amis qui se sont révélées véreuses.Il existe toutes sortes de choses qui peuvent être utilisées pour ternir votre réputation auprès de votre employeur, de vos amis ou de votre conjoint.

La deuxième chose que je dis aux gens, c’est qu’il ne s’agit pas de vous.Vous ne présentez peut-être aucun intérêt, mais il y a des gens qui remettent en question le statu quo, et ces gens-là se démarquent pour essayer d’apporter des changements.Et les pouvoirs en place ne veulent pas nécessairement du changement.Ils aiment la façon dont les choses se passent parce que c’est eux qui contrôlent.Donc, si vous vous souciez d’une question politique – qu’il s’agisse de la réforme fiscale ou de Black Lives Matter – nous devons garantir que ces personnes peuvent agir librement dans le monde politique.La capacité d’y parvenir est considérablement réduite si quelqu’un doit craindre que la police s’en prenne à ses proches sans papiers.Les gens doivent se préoccuper de la collecte d’informations du côté privé, car c’est l’un des principaux moyens par lesquels les informations parviennent aux forces de l’ordre.Il y a tellement d’incitations du côté privé à les collecter.Cette incitation est basée sur le modèle publicitaire :Plus les entreprises en savent sur nous, plus la publicité peut être ciblée et plus elles gagnent d'argent.

—————

La véritable préoccupation est ce que nous constatons en Chine, où ils utilisent la surveillance faciale pour identifier les gens, les suivre dans la rue et leur attribuer un score social.

—————

Une fois que vous disposez d’autant d’informations, les gens peuvent être manipulés contre leur meilleur intérêt.Les sites [de réseaux sociaux] sont conçus pour créer une dépendance, et pour inciter les gens à cliquer, ils continuent de vous montrer de plus en plus de choses scandaleuses.Cela fausse totalement votre perception du monde et vos faits, de sorte que vous ne savez pas ce qui se passe réellement dans le monde.Cela vous fait vous associer uniquement avec des personnes partageant les mêmes idées et vous place dans cette bulle de filtre.Cette idée selon laquelle vous pouvez être manipulé pour voir, croire, acheter et penser des choses qui ne sont pas ce que vous feriez normalement – ​​et personne ne le sait parce que personne ne sait que ce que je vois est différent de ce que vous voyez – est effrayante.

Une fois que vous avez ces données, il y a des problèmes sociologiques ou systémiques, car certaines décisions sont prises sur la base de ces données sur des choses, comme qui va avoir droit aux prestations sociales, quelles annonces de logement me sont présentées en fonction de ma race, quelles sont les offres d'emploi. qui m'a été montré en fonction de mon sexe.Il s’agit là d’autres types de moyens par lesquels les données peuvent instancier des préjugés ou des discriminations.Ce n’est pas comme s’il n’y avait pas de préjugés ou de discrimination avant le Big Data : la crainte est que cela soit moins évident, ce qui le rend beaucoup plus puissant.

À quoi ressemble l’avenir de la surveillance et de la confidentialité ?C'est quelque chose comme Le quartier Smart City de Google à Toronto ça va être la norme ?

Je pense que c’est un résultat possible : non seulement nos données de communication, mais aussi les données sur notre corps, notre maison, nos relations, nos achats et bien plus encore seront collectées et interagiront les unes avec les autres bien plus qu’elles ne le sont actuellement.Je pense que c’est définitivement une tendance.La vraie chose dont il faut commencer à s’inquiéter, c’est ce que nous voyons en Chine, où ils utilisent la surveillance faciale pour identifier les gens, les suivre dans la rue et attribuez-leur un score social, qui est composé de facteurs tels que leur respect des lois, leur travail et leurs finances.Ce score, qui apparemment dicte s’ils sont ou non de bons citoyens, les suit partout, permettant au gouvernement et aux entités privées de discriminer et de prendre des décisions à leur sujet en fonction de leur classement.C’est une situation vraiment terrifiante que de voir des gens être étiquetés et traités en conséquence.C'est très Meilleur des Mondes.