Il terrificante presente dei big data e della sorveglianza:Una conversazione con Jennifer Granick

Crescono le preoccupazioni riguardo alla privacy e alla sorveglianza governativa nel mondo iperconnesso di oggi.La tecnologia è più intelligente e veloce che mai, così come lo sono le strategie governative per ascoltare.In qualità di avvocato dell'ACLU, Jennifer Granick (TED Talk: Come il governo degli Stati Uniti spia le persone che protestano, incluso te) lavora per demistificare il torbido panorama giuridico dei diritti civili sulla privacy, proteggendo la nostra libertà di privacy dagli interessi pubblici e privati.Abbiamo parlato con lei della battaglia contro la sorveglianza governativa, di come mantenere i propri dati al sicuro e del perché la trasparenza legale – e l’azione legale – sono vitali.

In il tuo intervento al TEDxStanford, descrivi in ​​dettaglio parte della storia e dei metodi di sorveglianza governativa negli Stati Uniti.Puoi spiegare come questi metodi si sono evoluti con l’avanzare della tecnologia?

Come ha affermato il giudice della Corte Suprema John Roberts, è la differenza tra “una cavalcata a cavallo [e] un volo sulla luna”. La quantità di informazioni disponibili su di noi è esponenzialmente maggiore;la facilità di accedervi e analizzarli, a causa degli strumenti di big data, dell’archiviazione e della ricerca automatica, è categoricamente diversa.Allo stesso tempo, le leggi destinate a proteggere la nostra privacy sono state ripetutamente declassate, più recentemente in nome della guerra al terrorismo.Tutto è più grande;c'è molto di più là fuori.

Nel tuo discorso, hai menzionato che la Sezione 702 degli emendamenti FISA (che consente alle agenzie governative statunitensi di monitorare le “minacce terroristiche straniere”) è scaduta nel 2017.Che tipo di impatto avrà sul panorama della sorveglianza?

Ci fu una lunga battaglia politica intorno al 702 e il tentativo di modificarlo.Ciò che alla fine è successo è che il Congresso l’ha semplicemente riautorizzata e approvata come parte di un disegno di legge più ampio senza una vera riforma.Il movimento per cercare di fare qualcosa al riguardo è fallito completamente.Ciò significa che proprio ora, con più fiducia che mai, la comunità dell’intelligence e le [sue] agenzie possono raccogliere informazioni con lo scopo di prendere di mira gli stranieri e archiviare tutte quelle informazioni.Quindi, possono cercare tra le conversazioni che stiamo avendo con persone all'estero.Le notizie accadute da allora mostrano che ci sono ancora errori e problemi nel modo in cui queste agenzie di intelligence gestiscono le informazioni e che infrangono regolarmente le regole.C'era una storia recente a riguardo l'FBI viola le regole 702.Non esiste alcuna responsabilità nel rispettare la legge;debole com'è, fondamentalmente non è una preoccupazione.

Che ruolo svolgono le aziende tecnologiche come Amazon e Facebook nel perpetuare questi sforzi di sorveglianza?

Le aziende non vogliono conformarsi a tutta una serie di procedimenti legali, ma quando lo fanno, vogliono che sia chiaro cosa dovrebbero fare e non vogliono alcuna responsabilità per questo.Le aziende hanno espresso alcuni commenti riguardo alla volontà di limitare la sorveglianza governativa a scopi legittimi per rassicurare i propri utenti non americani, e hanno spinto per una sorta di chiarezza e regolarità nel modo in cui avverrà la sorveglianza.Si sono espressi a favore di un esercizio più controllato del 702, ma senza una vera riforma.Hanno anche supportato il Cloud Act che è una legge recente che sostanzialmente consente ai governi stranieri di accedere alle informazioni archiviate qui negli Stati Uniti senza soddisfare gli standard più elevati del processo legale statunitense.Non sono costantemente libertari civili o sostenitori della privacy.

—————

Se hai a cuore qualsiasi questione politica, che si tratti di riforma fiscale o Black Lives Matter, dobbiamo garantire che queste persone possano operare liberamente nel mondo politico.

—————

La tecnologia di riconoscimento facciale come “Rekognition” di Amazon viene utilizzata dalle forze dell’ordine in tutto il paese.Quali sono le preoccupazioni e le possibili conseguenze legate all’uso di questa tecnologia?

L'identificazione dei volti collegata alle telecamere di sorveglianza è particolarmente distopica, ma il ACLU del test di Rekognition della California settentrionale dimostra che anche gli usi più banali della tecnologia sono pericolosi.Nei test, il software ha erroneamente identificato 28 membri del Congresso come persone arrestate per un crimine e ha segnalato in modo sproporzionato membri del Congressional Black Caucus.Il problema è sia che lo strumento è impreciso e discriminatorio, sia che conferisce alla polizia un potere senza precedenti.

In un mondo sempre connesso con la tecnologia intelligente nelle nostre case, in auto e nelle nostre tasche, come possiamo prepararci ed evitare la sorveglianza intrusiva?

Numero uno:utilizzare la crittografia.Crittografare i tuoi dati sta diventando sempre più semplice e ci sono servizi di comunicazione che proteggono le tue comunicazioni.iMessage è uno per gli utenti iPhone.C'è anche WhatsApp.Utilizzo Signal, che è un programma di messaggistica di testo.Crittografare i tuoi dati è sempre più semplice.Per molti di noi, una delle sfide più grandi non è necessariamente il governo, ma anche gli hacker, quindi attiva sempre l’autenticazione a più fattori.In questo modo non è che qualcuno possa entrare nel tuo account con una password;dovranno anche avere qualche altro tipo di token hardware.È una buona cosa da fare e in realtà richiede pochissimo lavoro aggiuntivo.

—————

Questa idea che puoi essere manipolato per vedere, credere, comprare e pensare cose che non sono ciò che faresti normalmente – e nessuno lo sa perché nessuno sa che quello che vedo io è diverso da quello che vedi tu – è spaventoso.

—————

Non utilizzare tecnologie che non necessitano di connessione a Internet.Se non hai bisogno del termometro per bambini connesso a Internet, non comprarlo.Invierà i tuoi dati a qualche azienda e quell'azienda li venderà agli operatori di marketing e sarà una fonte di accesso per le forze dell'ordine.In particolare, non mi piacciono gli assistenti domestici come Alexa o Google Home perché penso che, prima o poi, quelle macchine possano essere usate per origliare le persone.Perché dovremmo invitare un dispositivo di sorveglianza già pronto a casa nostra?

A tutti piacciono le cose nuove e divertenti: conosco molte persone che hanno questi assistenti domestici.Ho un cellulare, amo internet e uso Facebook.Penso che una delle cose che le persone dovrebbero davvero fare è spingere per leggi migliori.Ecco a cosa serve la legge.Dovrebbe proteggerci E permetterci di partecipare all’economia moderna.

Al termine del suo intervento conclude dicendo che dobbiamo esigere trasparenza.Cosa significa per te la trasparenza e come possiamo raggiungerla?

Ci sono così tante cose che non sappiamo sulla sorveglianza in questo momento.Nel contesto penale non sappiamo quanti ordini particolari di sorveglianza vengano emessi.Non sappiamo che tipo di informazioni stanno ottenendo con loro.Non sappiamo cosa stanno costringendo le aziende a fare.Non sappiamo se stanno potenzialmente sovvertendo le misure di sicurezza per facilitare lo spionaggio su di noi.È molto peggio nel contesto dell’intelligence in cui abbiamo questo tribunale FISA che opera ed emette opinioni a porte chiuse.Dovrebbero pubblicare queste opinioni, ma le vediamo molto raramente.Qualsiasi nuova e innovativa interpretazione della legge lo è destinato a essere pubblicato, ma da quando l'editto è diventato legge, non abbiamo avuto alcuna declassificazione delle opinioni dei tribunali FISA.Scopriamo cose molto dopo i fatti, come la più recente violazione delle regole della Sezione 702 da parte dell'FBI, il che significava che gli agenti avevano accesso a dati e informazioni che non avrebbero dovuto vedere.Scopriremo questi problemi anni dopo.C'è così tanto che non sappiamo.

La trasparenza è il primo passo, ma non è fine a se stessa.Esiste un comitato di vigilanza sulla privacy e sulle libertà civili, e quel comitato ha confermato i membri solo di recente, e ora c’è di nuovo il quorum.Per molto tempo, quel comitato di sorveglianza, che dovrebbe fornire una revisione ristretta dei programmi di intelligence, non è stato nemmeno operativo.Siamo indietro.Solo pochi senatori e rappresentanti se ne preoccupano perché la popolazione non si fa avanti dicendo: “Questo è davvero importante per noi”. Ma dovrebbero esserlo.

Non c’è motivo più ovvio per cui dovresti preoccuparti della sorveglianza rispetto all’amministrazione Trump.In passato, le persone che erano indifferenti alla sorveglianza presumevano che se non stavi facendo nulla di male non avevi nulla di cui preoccuparti: la polizia avrebbe seguito lo stato di diritto e tutti avrebbero agito in buona fede.Ma oggi ci troviamo all’estremità della situazione dell’immigrazione;oggi abbiamo il modo in cui l’amministrazione Trump punisce le persone che arrivano in questo Paese rapendo i loro figli.C’è sessismo, antisemitismo e razzismo dilaganti, e questa idea che le persone siano “estremisti dell’identità nera” che dovrebbero essere sorvegliati – il che significa semplicemente che il governo sta sorvegliando gli attivisti per i diritti civili e le comunità di colore.E quindi c’è questa situazione in cui questa immensa quantità di potere tecnico è nelle mani di persone che operano in malafede, sulla base dei motivi più vili.

Cosa significa che tutte queste informazioni sono state raccolte ed è possibile accedervi, manipolarle e venderle?E come parlare a chi non è preoccupato e crede di non avere nulla da nascondere?

Ci sono due cose.Uno è che tutti hanno commesso crimini.La quantità di comportamenti coperti dalle leggi penali è enorme: che si tratti di fumare erba o mentire sulle tasse, ci sono così tanti modi in cui puoi trasgredire la legge.Nessuno è pulito al 100%.Se qualcuno volesse inseguirti e sapesse tutto di te, ci sarebbero ampie informazioni per farlo.Non è solo roba criminale;sono le cose sciocche che hai detto in passato o le persone con cui eri amico che si sono rivelate disoneste.Ci sono tutti i tipi di cose che possono essere usate per offuscare la tua reputazione con il tuo datore di lavoro, i tuoi amici o il tuo coniuge.

La seconda cosa che dico alla gente è che non si tratta di te.Potresti non essere interessato, ma ci sono persone là fuori che stanno sfidando lo status quo e queste persone si fanno avanti per cercare di apportare il cambiamento.E i poteri forti non vogliono necessariamente il cambiamento.A loro piace come stanno le cose perché sono loro ad avere il controllo.Quindi, se hai a cuore qualsiasi questione politica – che si tratti di riforma fiscale o Black Lives Matter – dobbiamo garantire che queste persone possano operare liberamente nel mondo politico.La capacità di farlo è notevolmente ridotta se qualcuno deve temere che la polizia possa inseguire i suoi parenti privi di documenti.Le persone devono preoccuparsi della raccolta di informazioni a livello privato perché è una delle vie principali attraverso le quali le informazioni arrivano alle forze dell’ordine.C’è così tanto incentivo da parte dei privati ​​a raccoglierlo.Tale incentivo si basa sul modello pubblicitario:quanto più le aziende ci conoscono, tanto più mirata può essere la pubblicità e tanto più denaro guadagnano.

—————

La cosa vera di cui iniziare a preoccuparsi è ciò che stiamo vedendo in Cina, dove usano la sorveglianza facciale per identificare le persone, seguirle per strada e assegnare loro un punteggio sociale.

—————

Una volta ottenute così tante informazioni, le persone possono essere manipolate contro il loro interesse.I siti [di social media] sono progettati per creare dipendenza e, per invogliare la gente a cliccare, continuano a mostrarti cose sempre più oltraggiose.Questo distorce totalmente il tuo senso del mondo e distorce i tuoi fatti in modo da non sapere cosa sta realmente accadendo nel mondo.Ti fa associare solo a persone che la pensano allo stesso modo e ti mette in questa bolla di filtro.Questa idea che puoi essere manipolato per vedere, credere, comprare e pensare cose che non sono ciò che faresti normalmente – e nessuno lo sa perché nessuno sa che quello che vedo io è diverso da quello che vedi tu – è spaventoso.

Una volta che si hanno questi dati, sorgono problemi sociologici o sistemici, perché ci sono alcune decisioni prese sulla base di quei dati su cose, come chi avrà diritto ai benefici sociali, quali annunci immobiliari mi verranno mostrati in base alla mia razza, quali annunci di lavoro sono mostratomi in base al mio sesso.Questi sono altri tipi di modi in cui i dati possono esemplificare pregiudizi o discriminazioni.Non è che non esistessero pregiudizi o discriminazioni prima dei big data: il timore è che sia meno ovvio che ciò stia accadendo e questo lo rende molto più potente.

Come sarà il futuro della sorveglianza e della privacy?È qualcosa di simile Il quartiere Smart City di Google a Toronto sarà la norma?

Penso che questo sia un risultato possibile: che non solo i dati sulle nostre comunicazioni, ma anche i dati sui nostri corpi, case, relazioni, acquisti e altro ancora verranno raccolti e interagiranno tra loro molto più di quanto non lo siano ora.Penso che sia sicuramente una tendenza.La cosa reale di cui iniziare a preoccuparsi è ciò che stiamo vedendo in Cina, dove stanno usando la sorveglianza facciale per identificare le persone, seguirle per strada e assegnare loro un punteggio sociale, che è costituito da fattori come il rispetto della legge, il lavoro e le finanze.Questo punteggio, che apparentemente determina se sono buoni cittadini o meno, li segue ovunque, consentendo al governo e agli enti privati ​​di discriminare e prendere decisioni su queste persone in base alla loro classifica.È una situazione davvero terrificante vedere le persone etichettate e trattate di conseguenza.Questo è molto Coraggioso Nuovo Mondo.