Die erschreckende Gegenwart von Big Data und Überwachung:Ein Gespräch mit Jennifer Granick

In der heutigen hypervernetzten Welt nehmen die Bedenken hinsichtlich der Privatsphäre und der staatlichen Überwachung zu.Die Technologie ist intelligenter und schneller als je zuvor – und das gilt auch für die Strategien der Regierung, zuzuhören.Als Anwältin der ACLU ist Jennifer Granick (TED Talk: Wie die US-Regierung Menschen ausspioniert, die protestieren – Sie eingeschlossen) arbeitet daran, die unklare Rechtslandschaft der Privatsphäre und Bürgerrechte zu entmystifizieren und unsere Freiheit der Privatsphäre vor staatlichen und privaten Interessen zu schützen.Wir haben mit ihr über den Kampf gegen staatliche Überwachung gesprochen, wie Sie Ihre Daten schützen können und warum rechtliche Transparenz – und rechtliche Schritte – so wichtig sind.

In Ihr Vortrag bei TEDxStanford, beschreiben Sie einige der Geschichte und Methoden der staatlichen Überwachung in den Vereinigten Staaten.Können Sie näher erläutern, wie sich diese Methoden im Zuge der Weiterentwicklung der Technologie entwickelt haben?

Wie John Roberts, Richter am Obersten Gerichtshof, es ausdrückte, ist es der Unterschied zwischen „einem Ausritt [und] einem Flug zum Mond“. Die Menge an Informationen, die über uns verfügbar ist, ist exponentiell größer;Die Leichtigkeit des Zugriffs und der Analyse aufgrund von Big-Data-Tools, Speicherung und maschineller Suche ist kategorisch anders.Gleichzeitig wurden die Gesetze, die unsere Privatsphäre schützen sollen, immer wieder abgeschwächt, zuletzt im Namen des „Kriegs gegen den Terror“.Alles ist größer;Es gibt einfach so viel mehr da draußen.

In Ihrem Vortrag erwähnten Sie, dass Abschnitt 702 der FISA-Änderungen (der US-Regierungsbehörden die Überwachung „ausländischer terroristischer Bedrohungen“ ermöglicht) im Jahr 2017 ausgelaufen ist.Welche Auswirkungen wird das auf die Überwachungslandschaft haben?

Es gab einen langen politischen Streit um das Jahr 702 und den Versuch, ihn zu ändern.Was letztendlich geschah, war, dass der Kongress es einfach erneut genehmigte und es als Teil eines größeren Gesetzentwurfs ohne wirkliche Reform verabschiedete.Der Versuch, etwas dagegen zu unternehmen, scheiterte völlig.Das bedeutet, dass die Geheimdienste und [ihre] Behörden jetzt mit mehr Zuversicht als je zuvor Informationen sammeln können, um Ausländer ins Visier zu nehmen, und alle diese Informationen speichern können.So können sie die Gespräche durchsuchen, die wir mit Menschen im Ausland führen.Die Nachrichten, die seitdem passiert sind, zeigen, dass es immer noch Fehler und Probleme im Umgang dieser Geheimdienste mit den Informationen gibt und dass sie regelmäßig gegen die Regeln verstoßen.Es gab kürzlich eine Geschichte darüber Das FBI verstößt gegen die 702-Regeln.Es besteht keine Verantwortung für die Einhaltung des Gesetzes;So schwach es auch ist, es ist im Grunde kein Grund zur Sorge.

Welche Rolle spielen Technologieunternehmen wie Amazon und Facebook bei der Aufrechterhaltung dieser Überwachungsbemühungen?

Unternehmen möchten nicht eine ganze Reihe rechtlicher Verfahren einhalten, aber wenn sie dies tun, möchten sie, dass klar ist, was sie tun sollen, und sie möchten keine Haftung dafür übernehmen.Die Unternehmen haben einige Kommentare dazu abgegeben, dass sie die staatliche Überwachung auf legitime Zwecke beschränken wollen, um ihre nichtamerikanischen Benutzer zu beruhigen, und sie haben auf eine gewisse Klarheit und Regelmäßigkeit bei der Überwachung gedrängt.Sie sprachen sich für eine stärker kontrollierte Ausübung von 702 aus, jedoch für keine wirkliche Reform.Sie haben auch unterstützt das Cloud Act Dabei handelt es sich um ein neues Gesetz, das es ausländischen Regierungen grundsätzlich ermöglicht, auf hier in den USA gespeicherte Informationen zuzugreifen, ohne den höheren Standard des US-Rechtsverfahrens einhalten zu müssen.Sie sind nicht durchweg bürgerliche Libertäre oder Verfechter der Privatsphäre.

—————

Wenn Ihnen ein politisches Thema am Herzen liegt – sei es eine Steuerreform oder Black Lives Matter – müssen wir sicherstellen, dass diese Menschen in der politischen Welt frei agieren können.

—————

Gesichtserkennungstechnologien wie „Rekognition“ von Amazon werden von Strafverfolgungsbehörden im ganzen Land eingesetzt.Welche Bedenken und möglichen Konsequenzen gibt es beim Einsatz dieser Technologie?

Die mit Überwachungskameras verbundene Gesichtserkennung ist besonders dystopisch, aber die Anerkennungstest der ACLU of Northern California zeigt, dass auch die Nutzung der Technologie durch Fußgänger gefährlich ist.In Tests identifizierte die Software 28 Kongressabgeordnete fälschlicherweise als Personen, die wegen eines Verbrechens verhaftet wurden, und markierte unverhältnismäßig häufig Mitglieder des Congressional Black Caucus.Das Problem besteht sowohl darin, dass das Instrument ungenau und diskriminierend ist, als auch darin, dass es der Polizei beispiellose Macht verleiht.

Wie können wir uns in einer immer vernetzten Welt mit intelligenter Technologie in unseren Häusern, Autos und Taschen auf aufdringliche Überwachung vorbereiten und diese vermeiden?

Nummer eins:Verschlüsselung verwenden.Die Verschlüsselung Ihrer Daten wird immer einfacher und es gibt Kommunikationsdienste, die Ihre Kommunikation schützen.iMessage ist eines für iPhone-Benutzer.Es gibt auch WhatsApp.Ich verwende Signal, ein Textnachrichtenprogramm.Die Verschlüsselung Ihrer Daten wird immer einfacher.Für viele von uns stellt nicht unbedingt die Regierung eine der größten Herausforderungen dar, sondern auch Hacker. Aktivieren Sie daher immer die Multi-Faktor-Authentifizierung.Damit soll verhindert werden, dass sich jemand mit einem Passwort Zugang zu Ihrem Konto verschafft;Sie benötigen außerdem eine andere Art von Hardware-Token.Das ist eine gute Sache und stellt eigentlich nur sehr wenig zusätzliche Arbeit dar.

—————

Die Vorstellung, dass man dazu manipuliert werden kann, Dinge zu sehen, zu glauben, zu kaufen und zu denken, die nicht das sind, was man normalerweise tun würde – und niemand weiß davon, weil niemand weiß, dass das, was ich sehe, anders ist als das, was man sieht –, ist beängstigend.

—————

Verwenden Sie keine Technologie, die nicht mit dem Internet verbunden sein muss.Wenn Sie dieses mit dem Internet verbundene Babythermometer nicht benötigen, kaufen Sie es nicht.Es wird Ihre Daten an ein Unternehmen senden, und dieses Unternehmen wird sie an Vermarkter verkaufen, und sie werden eine Zugriffsquelle für Strafverfolgungsbehörden sein.Insbesondere mag ich diese Heimassistenten wie Alexa oder Google Home nicht, weil ich denke, dass diese Maschinen irgendwann dazu verwendet werden können, Menschen zu belauschen.Warum sollten wir ein fertiges Überwachungsgerät in unser Zuhause einladen?

Jeder mag neue, lustige Dinge – ich kenne viele Leute, die diese Heimassistenten haben.Ich habe ein Handy, ich liebe das Internet und ich nutze Facebook.Ich denke, eines der Dinge, die die Menschen wirklich tun sollten, ist, sich für bessere Gesetze einzusetzen.Dafür gibt es das Gesetz.Es soll uns schützen Und ermöglichen es uns, an der modernen Wirtschaft teilzuhaben.

Am Ende Ihres Vortrags sagen Sie abschließend, dass wir Transparenz fordern müssen.Was bedeutet Transparenz für Sie und wie können wir sie erreichen?

Es gibt so viel, was wir derzeit nicht über Überwachung wissen.Im strafrechtlichen Kontext wissen wir nicht, wie viele konkrete Überwachungsanordnungen erlassen werden.Wir wissen nicht, welche Art von Informationen sie mit sich führen.Wir wissen nicht, wozu sie die Unternehmen zwingen.Wir wissen nicht, ob sie möglicherweise Sicherheitsmaßnahmen untergraben, um uns das Ausspionieren zu erleichtern.Noch viel schlimmer ist es im nachrichtendienstlichen Kontext, wo wir dieses FISA-Gericht haben, das hinter verschlossenen Türen operiert und Stellungnahmen abgibt.Sie sollten diese Meinungen veröffentlichen, aber wir sehen sie sehr selten.Alle neuen und neuartigen Rechtsauslegungen sind zur Veröffentlichung vorgesehen, aber seit Inkrafttreten dieses Edikts haben wir keine freigegebenen FISA-Gerichtsgutachten mehr erhalten.Wir erfahren erst im Nachhinein Dinge, wie zum Beispiel den jüngsten Verstoß des FBI gegen die Bestimmungen von Abschnitt 702, der bedeutete, dass Agenten Zugriff auf Daten und Informationen hatten, die sie nicht sehen sollten.Von diesen Problemen erfahren wir erst Jahre später.Es gibt einfach so viel, was wir nicht wissen.

Transparenz ist der erste Schritt, aber kein Selbstzweck.Es gibt ein Aufsichtsgremium für Datenschutz und bürgerliche Freiheiten, und dieses Gremium hat erst kürzlich seine Mitglieder bestätigt, und jetzt ist es wieder beschlussfähig.Dieses Aufsichtsgremium, von dem erwartet wird, dass es eine eng gefasste Überprüfung der Geheimdienstprogramme durchführt, war lange Zeit nicht einmal in Betrieb.Wir sind im Rückstand.Nur wenige Senatoren und Abgeordnete kümmern sich darum, denn die Bevölkerung meldet sich nicht und sagt: „Das ist uns wirklich wichtig.“ Aber sie sollten es sein.

Es gibt keinen offensichtlicheren Grund, warum Sie sich um Überwachung kümmern sollten als die Trump-Regierung.In der Vergangenheit gingen Leute, die der Überwachung gleichgültig gegenüberstanden, davon aus, dass man sich keine Sorgen machen müsste, wenn man nichts falsch machte – die Polizei würde sich an die Rechtsstaatlichkeit halten und alle handelten nach Treu und Glauben.Aber heute haben Sie es mit der extremen Einwanderungssituation zu tun;Heute sehen Sie, wie die Trump-Regierung Menschen, die in dieses Land kommen, mit der Entführung ihrer Kinder bestraft.Es gibt grassierenden Sexismus, Antisemitismus und Rassismus und die Vorstellung, dass Menschen „Extremisten mit schwarzer Identität“ sind, die überwacht werden sollten – was einfach bedeutet, dass die Regierung Bürgerrechtler und farbige Gemeinschaften überwacht.Und so gibt es diese Situation, in der diese immense Menge an technischer Macht in den Händen von Menschen liegt, die in böser Absicht und aus den niedrigsten Motiven handeln.

Was bedeutet es, dass all diese Informationen gesammelt wurden und abgerufen, manipuliert und verkauft werden können?Und wie spricht man mit denen, die sich keine Sorgen machen und glauben, dass sie nichts zu verbergen haben?

Es gibt zwei Dinge.Erstens hat jeder Verbrechen begangen.Die Menge an Verhaltensweisen, die unter die Strafgesetze fallen, ist riesig – ob es sich um Marihuana oder Steuerlügen handelt, es gibt einfach so viele Möglichkeiten, gegen das Gesetz zu verstoßen.Niemand ist 100 Prozent sauber.Wenn jemand Sie verfolgen wollte und alles über Sie wüsste, gäbe es dafür genügend Informationen.Es handelt sich nicht nur um Kriminalität;Es sind dumme Dinge, die Sie in der Vergangenheit gesagt haben, oder Menschen, mit denen Sie befreundet waren, die sich als betrügerisch herausgestellt haben.Es gibt alle möglichen Dinge, die genutzt werden können, um Ihren Ruf bei Ihrem Arbeitgeber, Ihren Freunden oder Ihrem Ehepartner zu schädigen.

Das zweite, was ich den Leuten sage, ist, dass es nicht um dich geht.Sie sind vielleicht nicht von Interesse, aber es gibt Leute da draußen, die den Status quo in Frage stellen, und diese Leute stechen hervor, um zu versuchen, Veränderungen herbeizuführen.Und die Machthaber wollen nicht unbedingt Veränderungen.Sie mögen die Art und Weise, wie die Dinge sind, weil sie diejenigen sind, die die Kontrolle haben.Wenn Ihnen also ein politisches Thema am Herzen liegt – sei es eine Steuerreform oder Black Lives Matter – müssen wir sicherstellen, dass diese Menschen in der politischen Welt frei agieren können.Die Fähigkeit dazu wird stark eingeschränkt, wenn jemand befürchten muss, dass die Polizei hinter seinen Verwandten ohne Papiere her ist.Die Menschen müssen sich über die Informationsbeschaffung im privaten Bereich Sorgen machen, denn das ist einer der Hauptwege, über den Informationen an die Strafverfolgungsbehörden gelangen.Auf privater Seite gibt es so viele Anreize, es zu sammeln.Dieser Anreiz basiert auf dem Werbemodell:Je mehr Unternehmen über uns wissen, desto zielgerichteter kann die Werbung sein und desto mehr Geld verdienen sie.

—————

Was wirklich Anlass zur Sorge gibt, ist das, was wir in China sehen, wo Gesichtsüberwachung eingesetzt wird, um Menschen zu identifizieren, ihnen auf der Straße zu folgen und ihnen einen sozialen Score zuzuweisen.

—————

Sobald Sie über so viele Informationen verfügen, können Menschen zu ihrem eigenen Vorteil manipuliert werden.[Social-Media]-Seiten sind darauf ausgelegt, süchtig zu machen, und um die Leute zum Klicken zu bewegen, zeigen sie einem immer mehr abscheuliche Dinge.Dies verzerrt Ihr Weltbild und Ihre Fakten völlig, sodass Sie nicht wissen, was tatsächlich in der Welt vor sich geht.Dadurch verbindet man sich nur mit Gleichgesinnten und gelangt in diese Filterblase.Die Vorstellung, dass man dazu manipuliert werden kann, Dinge zu sehen, zu glauben, zu kaufen und zu denken, die nicht das sind, was man normalerweise tun würde – und niemand weiß davon, weil niemand weiß, dass das, was ich sehe, anders ist als das, was man sieht –, ist beängstigend.

Sobald Sie über diese Daten verfügen, treten soziologische oder systemische Probleme auf, da bestimmte Entscheidungen auf der Grundlage dieser Daten getroffen werden, z. B. wer Anspruch auf Sozialleistungen hat, welche Wohnungsanzeigen mir aufgrund meiner Rasse angezeigt werden und welche Stellenangebote es gibt werden mir anhand meines Geschlechts angezeigt.Dies sind weitere Möglichkeiten, wie Daten Vorurteile oder Diskriminierung hervorrufen können.Es ist nicht so, dass es vor Big Data keine Vorurteile oder Diskriminierung gegeben hätte – die Befürchtung ist, dass es weniger offensichtlich ist, dass es passiert, und das macht es viel mächtiger.

Wie sieht die Zukunft von Überwachung und Privatsphäre aus?Ist so etwas wie Googles Smart City-Viertel in Toronto Wird es die Norm sein?

Ich denke, das ist ein mögliches Ergebnis – dass nicht nur unsere Kommunikationsdaten, sondern auch Daten über unseren Körper, unser Zuhause, unsere Beziehungen, Einkäufe und mehr gesammelt werden und viel stärker als bisher miteinander interagieren werden.Ich denke, das ist definitiv ein Trend.Was wirklich Anlass zur Sorge gibt, ist das, was wir in China sehen, wo Gesichtsüberwachung eingesetzt wird, um Menschen zu identifizieren, ihnen auf der Straße zu folgen und Weisen Sie ihnen einen sozialen Score zu, die sich aus Faktoren wie ihrer Gesetzestreue, ihrem Job und ihren Finanzen zusammensetzt.Dieser Wert, der offenbar darüber entscheidet, ob sie gute Bürger sind oder nicht, folgt ihnen überallhin und ermöglicht es Regierungen und privaten Einrichtungen, diese Menschen auf der Grundlage ihres Rankings zu diskriminieren und Entscheidungen über sie zu treffen.Es ist eine wirklich erschreckende Situation, wenn Menschen entsprechend abgestempelt und behandelt werden.Das ist sehr Schöne neue Welt.