Что предусматривает Закон об искусственном интеллекте, первый европейский нормативный акт по искусственному интеллекту

Соглашение, достигнутое между Парламентом и Советом по Закону об искусственном интеллекте.Он запрещает биометрическое распознавание и вводит различные ограничения, но, по мнению НПО, этого недостаточно.

• После 36 часов переговоров Европейский парламент и Совет достигли соглашения по Закону об искусственном интеллекте — постановлению об искусственном интеллекте.
• Использование средств массовой слежки, таких как распознавание лиц в реальном времени и интеллектуальная полицейская деятельность, запрещено, за различными исключениями.
• Правозащитные ассоциации сдерживают свой энтузиазм:без окончательного текста невозможно проверить уровень защиты прав и эффективный предел массовой слежки.

После нескольких месяцев дебатов о том, как регулировать такие компании, как OpenAI, которые занимаются системами искусственного интеллекта,Евросоюз он одобрил Закон об искусственном интеллекте в пятницу, 8 декабря, первый пакет региональных правил по искусственному интеллекту.Это один основной закон который, как надеются европейские законодатели, мог бы стать образцом для остального мира.

Что такое Закон об искусственном интеллекте и чем он отличается от других нормативных актов об искусственном интеллекте

Предложенный Европейской комиссией 21 апреля 2021 года в рамках цифровой стратегии сообщества,Закон об искусственном интеллекте это Регламент Европейского Союза целью которого является введение общей нормативно-правовой базы для искусственного интеллекта.

Само по себе регулирование не является первым в мире.В Китай, например, правила о генеративном искусственном интеллекте вступили в силу уже в августе.Однако исключительный характер Закона об искусственном интеллекте касается лсвод правил, гораздо более широкий, на использование искусственного интеллекта, включая большое количество запретов.

Собственный трилог о некоторых запретах – переговоры между Парламентом, Европейской комиссией и Советом, заключительная часть европейского законодательного процесса – рисковал сесть на мель за 36 часов переговоров.В частности, речь шла о разрешенном и запрещенном использовании искусственного интеллекта компаниями. правоохранительные органы, особенно в отношении профилактической работы полиции и распознавания лиц в реальном времени.В то время как, с одной стороны, Парламент защищал линию тотальной блокады, Совет, представляющий государства-члены, вместо этого настаивал на гораздо более либеральном подходе.

Вопрос слежки со стороны правоохранительных органов

Самой спорной и вызывающей разногласия темой не только между Парламентом и Комиссией, но и среди гражданского общества, стал определение правомерного использования искусственного интеллекта правоохранительными органами. 

А Советовать, представляющая 27 национальных правительств стран-членов, попыталась предоставить возможность использования искусственного интеллекта для идентификации людей посредством биометрическое распознавание лиц в режиме реального времени.Другая просьба заключалась в том, чтобы разрешить использование этих систем в целях прогнозирующая полиция.Это предполагает использование алгоритмов для прогнозирования вероятности совершения преступления, кем и в каком месте.

Страны, которые пытались двигаться в этом направлении, былиИталия – забывая, что Гарант конфиденциальности запретили использование распознавания в реальном времени в 2021 году -Венгрия и Франция.Особенно последний в последнее время сильно продвинулся в направлении безопасности, в первую очередь, с помощью закона о «глобальная безопасность», а затем с закон в апреле прошлого года который разрешил использование искусственного интеллекта и превентивные расследования с учетом Олимпийские игры в Париже.

Не солнце:обеспокоенность, особенно в гражданском обществе и организациях по защите цифровых прав, возросла, когда в ходе переговоров Совет попытался разрешить использование биометрическое распознавание по национальному признаку.

Какие виды использования ИИ для слежки запрещены

Оппозиция, проводимая парламентом, выстояла, ииспользование искусственного интеллекта для слежки запрещено, за исключением нескольких исключений и в любом случае с разрешения судебных органов. Из того, что получилось в последующие часы, правила установлены в отношении рисков, разделенных на четыре категории: минимальный, ограниченный, высокий и неприемлемый.Чем выше риски, тем выше ответственность тех, кто разрабатывает и использует эти конкретные системы. пока его не запретили для тех, кого считают слишком опасными.

Закон об искусственном интеллекте запрещает биометрическая категоризация конфиденциальные персональные данные, такие как этническая принадлежность, вера или сексуальная ориентация;там огромная коллекция лиц из интернета и технологии, которые признают эмоции (только, правда, на работе и в школе).Он также запрещает системы, способные манипулировать эмоциями людей и тех, что основаны на социальный рейтинг, то есть уже принятый в Китае метод классификации репутации граждан.

Биометрическое распознавание в реальном времени запрещено, за исключением трех ситуаций: угроза терроризма, поиск жертв преступлений (таких как, например, заложники) и выявить подозревается в некоторых «серьёзных преступлениях».Там первый широко распространенный список включает торговлю людьми, незаконный оборот наркотиков, торговлю оружием, детскую порнографию и жестокое обращение с детьми, экологические преступления, убийства, а также терроризм и похищение людей, преступления, которые на самом деле уже включены в три предусмотренных исключения.

ТО системы прогнозирования полиции, Однако его можно использовать только для анализа анонимизированная информация для определения тенденций на месте преступления, а системы, которые с помощью алгоритмов выявляют подозреваемого, запрещены.Другими словами, лицо не сможет быть расследовано, поскольку о нем сообщил алгоритм.

Другие правила, предусмотренные Законом об искусственном интеллекте.

Важным вопросом, в который вмешивается данное регулирование, является прозрачность в использовании систем искусственного интеллекта.Пользователи должны уметь распознавать содержимое глубокая подделка, например изображения и видео, с помощью четко видимых ярлыков, и они должны узнать, взаимодействуют ли они с человеком или с системой, например чат-боты.Более того, компании поставщики цифровых услуг будут иметьобязательство идентифицировать контент, созданный с помощью искусственного интеллекта которые циркулируют на их платформах и должны автоматически отмечаться как таковые.Революция, если задуматься о количестве глубокие фейки, которые распространяются, например, в социальных сетях.

Еще одна тема – это’генеративный искусственный интеллект, эта система который способен генерировать текст, изображения, видео, музыку или другие носители в ответ на запросы, как ЧатGpt. Стандарт относится к системы искусственного интеллекта общего назначения, способный выполнять различные задачи и обученный на огромном количестве неклассифицированных данных.Некоторые из них установлены пороговые значения для идентификации систем на основе воздействия:чем сильнее воздействие на население, тем больше обязательств необходимо соблюдать.

Среди прочих вопросов, вопрос, касающийся защита авторских прав и общая прозрачность всего цифрового контента созданный с помощью искусственного интеллекта.

Следующие шаги Закона об искусственном интеллекте и критика со стороны гражданского общества

Текст постановления завершил политический процесс и сейчас находится на рассмотрении. перешёл в руки техников перед которыми стоит задача проверки правил на предмет их согласованности и внесения поправок.После публикации окончательного текста, примерно в конце января следующего года, Комиссия будет располагать офис искусственного интеллекта. Каждый штат должен будет номинировать местный орган власти который контролирует применение постановления, работая вместе с Гарант защиты данных.

Важно подчеркнуть, что На сегодняшний день еще нет окончательного документа, который можно было бы просмотреть..Все, что нам известно, было сообщено на пресс-конференции и стало известно из источников в Брюсселе.

Гражданское общество и сети европейских ассоциаций которые занимаются цифровыми правами, включая ЭДРи, сеть НПО и ученых, занимающихся цифровыми правами, очень осторожный в честь достижения соглашения.Следующие придерживаются того же мнения Итальянские ассоциации, включая Хорошее лобби, Гермес Центр И Сеть конфиденциальности, которые подчеркивают беспокойство по поводу многочисленных исключений к запрету на использование распознавания лиц в общественных местах, но прежде всего отсутствие прозрачности во время переговоров. Положительно, как он указывает Дилетта Хайскес Privacy Network, казалось бы, включение в правило оценка воздействия на основные права для искусственного интеллекта высокого риска, но это тоже можно проверить только после публикации окончательного текста.

Как и другие европейские правила, самые проблемные детали они появятся только один раз текст будет опубликован.В ходе переговоров правительствам пришлось признать, что системы искусственного интеллекта все чаще используется для массовой слежки, расовое профилирование и другие вредные и агрессивные цели.Соглашение содержит ограничения, но только с окончательным текстом можно будет проверить его влияние, особенно в отношении внутреннего наблюдения и границ.

Трудно воодушевиться законом, который впервые в Европейском Союзе предпринял шаги по легализации распознавания лиц в реальном времени.Хотя парламент упорно боролся за ограничение ущерба, общий пакет мер по биометрическому надзору и профилированию не дает достаточных результатов.Наша борьба с массовой биометрической слежкой будет продолжаться

Элла Якубовска, старший советник по вопросам политики, EDRi