Ужасающая ситуация больших данных и слежки:Разговор с Дженнифер Граник

В современном гиперсвязанном мире растет обеспокоенность по поводу конфиденциальности и государственного надзора.Технологии стали умнее и быстрее, чем когда-либо, равно как и стратегии правительства по прислушиванию к ним.Как юрист ACLU, Дженнифер Граник (TED Talk: Как правительство США шпионит за протестующими людьми, в том числе и за вами) работает над демистификацией мрачного юридического ландшафта гражданских прав на неприкосновенность частной жизни, защищая нашу свободу неприкосновенности частной жизни от государственных и частных интересов.Мы поговорили с ней о борьбе с правительственной слежкой, о том, как обеспечить безопасность своих данных и почему юридическая прозрачность и судебные иски жизненно важны.

В твое выступление на TEDxStanford, Вы подробно описываете историю и методы правительственной слежки в Соединенных Штатах.Можете ли вы рассказать, как эти методы развивались по мере развития технологий?

Как выразился судья Верховного суда Джон Робертс, в этом разница между «поездкой верхом на лошади и полетом на Луну». Объем доступной информации о нас экспоненциально больше;простота доступа к ним и их анализа благодаря инструментам обработки больших данных, хранению и машинному поиску категорически отличается.В то же время законы, призванные защитить нашу частную жизнь, неоднократно ослаблялись, в последний раз во имя войны с террором.Все больше;там гораздо больше.

В своем выступлении вы упомянули, что действие раздела 702 поправок к FISA (который позволяет правительственным учреждениям США отслеживать «иностранные террористические угрозы») истекло в 2017 году.Какое влияние это окажет на систему наблюдения?

Была долгая политическая битва вокруг 702 года и попыток внести в него поправки.В конечном итоге Конгресс просто повторно санкционировал его и принял как часть более крупного законопроекта без какой-либо реальной реформы.Попытка что-то с этим сделать потерпела полную неудачу.Это означает, что прямо сейчас, с большей уверенностью, чем когда-либо прежде, разведывательное сообщество и [его] агентства могут собирать информацию во имя нападения на иностранцев и хранить всю эту информацию.Таким образом, они могут искать в разговорах, которые мы ведем с людьми за рубежом.Новости, произошедшие с тех пор, показывают, что по-прежнему существуют ошибки и проблемы в том, как эти спецслужбы обрабатывают информацию, и что они регулярно нарушают правила.Недавно была история о ФБР нарушает правила 702.Нет никакой ответственности за соблюдение закона;каким бы слабым он ни был, это, по сути, не проблема.

Какую роль играют такие технологические компании, как Amazon и Facebook, в сохранении этих усилий по слежке?

Компании не хотят соблюдать целый ряд юридических процессов, но когда они это делают, они хотят, чтобы было ясно, что они должны делать, и не хотят никакой ответственности за это.У компаний были некоторые комментарии о желании ограничить правительственную слежку законными целями, чтобы успокоить своих неамериканских пользователей, и они настаивали на некоторой ясности и регулярности в том, как будет осуществляться слежка.Они выступили за более контролируемые учения 702, но без реальной реформы.Они также поддержали Закон об облаках Это недавний закон, который по сути позволяет иностранным правительствам получать доступ к информации, хранящейся здесь, в США, без соблюдения более высоких стандартов юридического процесса США.Они не являются последовательными борцами за гражданские права или защитниками конфиденциальности.

—————

Если вас волнует какой-либо политический вопрос — будь то налоговая реформа или Black Lives Matter — нам необходимо обеспечить, чтобы эти люди могли свободно действовать в политическом мире.

—————

Технологии распознавания лиц, такие как «Rekognition» от Amazon, используются правоохранительными органами по всей стране.Каковы проблемы и возможные последствия использования этой технологии?

Идентификация лиц, связанная с камерами наблюдения, является особенно антиутопической, но Испытание признания ACLU Северной Калифорнии показывает, что даже пешеходное использование технологии опасно.В ходе тестов программное обеспечение ошибочно идентифицировало 28 членов Конгресса как людей, арестованных за преступление, и непропорционально пометило членов фракции чернокожих в Конгрессе.Проблема заключается не только в том, что этот инструмент является неточным и дискриминационным, но и в том, что он дает полиции беспрецедентные полномочия.

Как мы можем подготовиться к навязчивой слежке и избежать ее в мире, где все время подключены и где умные технологии есть в наших домах, машинах и карманах?

Номер один:используйте шифрование.Шифрование ваших данных становится все проще и проще, и существуют службы связи, которые защищают ваши сообщения.iMessage предназначен для пользователей iPhone.Еще есть WhatsApp.Я использую Signal — программу для обмена текстовыми сообщениями.Шифровать ваши данные становится все проще и проще.Для многих из нас одной из самых больших проблем является не обязательно правительство — это еще и хакеры, поэтому всегда включайте многофакторную аутентификацию.Это сделано для того, чтобы кто-то не мог взломать вашу учетную запись с паролем;им также понадобится какой-то другой аппаратный токен.Это хорошо, и на самом деле это требует очень небольшой дополнительной работы.

—————

Мысль о том, что вами можно манипулировать, заставляя видеть, верить, покупать и думать о вещах, которые не являются тем, что вы обычно делаете, — и никто об этом не знает, потому что никто не знает, что то, что я вижу, отличается от того, что вы видите, — пугает.

—————

Не используйте технологии, которым не требуется подключение к Интернету.Если вам не нужен детский термометр с подключением к Интернету, не покупайте его.Он отправит ваши данные какой-то компании, а эта компания продаст их маркетологам, и это станет источником доступа для правоохранительных органов.В частности, мне не нравятся такие домашние помощники, как Alexa или Google Home, потому что я думаю, что в конечном итоге эти машины можно будет использовать для подслушивания людей.Зачем нам приглашать в свой дом готовое устройство наблюдения?

Всем нравятся новые и забавные вещи — я знаю многих людей, у которых есть такие домашние помощники.У меня есть мобильный телефон, я люблю Интернет и пользуюсь Facebook.Я думаю, что одна из вещей, которые людям действительно следует делать, — это добиваться улучшения законов.Для этого и существует закон.Оно должно защитить нас и позволяют нам участвовать в современной экономике.

В конце вашего выступления вы говорите, что нам необходимо требовать прозрачности.Что для вас означает прозрачность и как мы можем ее достичь?

Сейчас мы очень многого не знаем о слежке.В уголовном контексте мы не знаем, сколько именно было отдано приказов о наблюдении.Мы не знаем, какую информацию они получают с собой.Мы не знаем, что они заставляют делать компании.Мы не знаем, нарушают ли они потенциально меры безопасности, чтобы облегчить слежку за нами.Гораздо хуже в контексте разведки, где у нас есть суд FISA, который работает и выносит заключения за закрытыми дверями.Они должны публиковать эти мнения, но мы их очень редко видим.Любые новые и нестандартные толкования закона предназначено для публикации, но с тех пор, как этот указ вступил в силу, у нас не было рассекречено ни одного решения суда FISA.Мы узнаем о вещах постфактум, например, о последнем нарушении ФБР правил раздела 702, что означало, что агенты имели доступ к данным и информации, которые они не должны были видеть.Об этих проблемах мы узнаем спустя годы.Просто мы многого не знаем.

Прозрачность – это первый шаг, но это не самоцель.Существует Совет по надзору за конфиденциальностью и гражданскими свободами, и этот совет только недавно утвердил своих членов, и теперь снова есть кворум.В течение долгого времени этот наблюдательный совет, который, как ожидается, будет осуществлять узкий обзор разведывательных программ, даже не действовал.Мы позади.Лишь немногие сенаторы и представители обеспокоены этим, потому что население не выходит вперед и не говорит: «Это действительно важно для нас». Но они должны быть.

Нет более очевидной причины, по которой вам следует заботиться о слежке, чем администрация Трампа.В прошлом люди, пресыщенные слежкой, полагали, что если вы не делаете ничего плохого, вам не о чем беспокоиться — полиция будет соблюдать верховенство закона, и все будут действовать добросовестно.Но сегодня иммиграционная ситуация достигла крайности;сегодня мы видим, как администрация Трампа наказывает людей, приезжающих в эту страну, похищая их детей.Существует безудержный сексизм, антисемитизм и расизм, а также идея о том, что люди являются «экстремистами черной идентичности», за которыми следует следить — что просто означает, что правительство следит за борцами за гражданские права и цветными сообществами.Итак, сложилась ситуация, когда это огромное количество технической мощи находится в руках людей, которые действуют недобросовестно, исходя из самых низменных мотивов.

Что означает, что вся эта информация была собрана и к ней можно получить доступ, манипулировать ею и продавать?И как разговаривать с теми, кто не обеспокоен и считает, что им нечего скрывать?

Есть две вещи.Во-первых, все совершили преступления.Количество действий, подпадающих под действие уголовного законодательства, огромно — будь то курение травки или неуплата налогов, существует очень много способов преступить закон.Никто не чист на 100 процентов.Если бы кто-то захотел преследовать вас и знал о вас все, для этого было бы достаточно информации.Это не просто криминал;это глупости, которые вы сказали в прошлом, или люди, с которыми вы дружили, которые оказались нечестными.Есть все, что можно использовать, чтобы запятнать вашу репутацию в глазах работодателя, друзей или супруга.

Второе, что я говорю людям, это то, что дело не в вас.Возможно, вы не представляете никакого интереса, но есть люди, которые бросают вызов статус-кво, и эти люди стараются внести изменения.И власть имущие не обязательно хотят перемен.Им нравится то, как обстоят дела, потому что именно они контролируют ситуацию.Поэтому, если вас волнует какой-либо политический вопрос — будь то налоговая реформа или вопрос жизни чернокожих — нам необходимо обеспечить, чтобы эти люди могли свободно действовать в политическом мире.Возможность сделать это значительно снижается, если кто-то должен бояться, что полиция приедет за его родственниками, не имеющими документов.Людям следует беспокоиться о сборе информации на частной стороне, потому что это один из основных путей, по которым информация попадает в правоохранительные органы.У частной стороны так много стимулов собирать их.Этот стимул основан на рекламной модели:чем больше компании знают о нас, тем более таргетированной может быть реклама и тем больше денег они зарабатывают.

—————

Реальная вещь, о которой стоит начать беспокоиться, — это то, что мы наблюдаем в Китае, где они используют наблюдение за лицами, чтобы идентифицировать людей, следить за ними на улице и присваивать им социальный рейтинг.

—————

Когда у вас будет столько информации, людьми можно будет манипулировать против их интересов.Сайты [социальных сетей] созданы так, чтобы вызывать привыкание, и, чтобы люди нажимали на них, они продолжают показывать вам все больше и больше возмутительных вещей.Это полностью искажает ваше восприятие мира и искажает ваши факты, поэтому вы не знаете, что на самом деле происходит в мире.Это заставляет вас общаться только с единомышленниками и помещает вас в этот пузырь фильтров.Сама идея о том, что вами можно манипулировать, заставляя видеть, верить, покупать и думать о вещах, которые не являются тем, что вы обычно делаете, — и никто об этом не знает, потому что никто не знает, что то, что я вижу, отличается от того, что вы видите, — пугает.

Когда у вас есть эти данные, возникают социологические или системные проблемы, потому что на основе этих данных принимаются определенные решения о таких вещах, как, например, кто будет иметь право на получение социальных пособий, какие объявления о жилье показываются мне в зависимости от моей расы, какие списки вакансий мне показали в зависимости от моего пола.Это и другие способы, с помощью которых данные могут создавать предрассудки или дискриминацию.Это не значит, что до появления больших данных не существовало предубеждений или дискриминации — есть страх, что это происходит менее очевидно, и это делает их гораздо более мощными.

Как выглядит будущее наблюдения и конфиденциальности?Это что-то вроде Район Google Smart City в Торонто будет норма?

Я думаю, что это один из возможных результатов — что не только наши коммуникационные данные, но и данные о наших телах, домах, отношениях, покупках и многом другом будут собираться и будут взаимодействовать друг с другом гораздо больше, чем сейчас.Я думаю, что это определенно тенденция.Реальная вещь, о которой стоит начать беспокоиться, — это то, что мы наблюдаем в Китае, где они используют наблюдение за лицами, чтобы идентифицировать людей, следить за ними на улице и присвойте им социальный рейтинг, который состоит из таких факторов, как их законопослушность, их работа и их финансовое положение.Этот рейтинг, который, очевидно, определяет, являются ли они хорошими гражданами, следует за ними повсюду, позволяя правительству и частным организациям дискриминировать и принимать решения в отношении этих людей на основе их рейтинга.Это действительно ужасающая ситуация, когда на людей навешивают ярлыки и обращаются с ними соответствующим образом.Это очень О дивный новый мир.