O que fornece o AI Act, o primeiro regulamento europeu sobre inteligência artificial

Acordo alcançado entre o Parlamento e o Conselho para a Lei da IA.Proíbe o reconhecimento biométrico e introduz vários limites mas, segundo as ONG, não é suficiente.

• Após 36 horas de negociações, o Parlamento Europeu e o Conselho chegaram a um acordo sobre a Lei da IA, o regulamento sobre inteligência artificial.
• O uso de vigilância em massa, como reconhecimento facial ao vivo e policiamento preditivo, é proibido, com diversas exceções.
• As associações de direitos humanos estão a conter o seu entusiasmo:sem o texto definitivo não é possível verificar o nível de proteção dos direitos e o limite efetivo à vigilância em massa.

Após meses de debates sobre como regular empresas como a OpenAI que lidam com sistemas de inteligência artificial, oUnião Europeia ele aprovou a Lei AI na sexta-feira, 8 de dezembro, o primeiro pacote de regras regionais sobre inteligência artificial.É um lei fundamental que, na esperança dos legisladores europeus, poderá tornar-se um modelo para o resto do mundo.

O que é a Lei de IA e como ela difere de outras regulamentações sobre inteligência artificial

Proposto pela Comissão Europeia em 21 de abril de 2021 no âmbito da estratégia digital comunitária, oLei de inteligência artificial é o Regulamento da União Europeia que visa introduzir um quadro regulamentar e jurídico comum para a inteligência artificial.

O regulamento em si não é o primeiro a nível mundial.Em Na China, por exemplo, as regras sobre inteligência artificial generativa entraram em vigor já em agosto.No entanto, a natureza excepcional da Lei AI diz respeito a lconjunto de regras, muito mais amplo, sobre a utilização de inteligência artificial, incluindo um grande número de proibições.

Ter o trílogo sobre algumas proibições – a negociação entre o Parlamento, a Comissão Europeia e o Conselho, a parte final do processo legislativo europeu – arriscou encalhar nas 36 horas de negociações.Em particular, a discussão centrou-se nas utilizações permitidas e proibidas da inteligência artificial pelas empresas agências de aplicação da lei, especialmente em torno do policiamento preditivo e do reconhecimento facial em tempo real.Enquanto, por um lado, o Parlamento defendeu a linha do bloqueio total, o Conselho, em representação dos Estados-Membros, pressionou por uma abordagem muito mais permissiva.

A questão da vigilância por parte das agências de aplicação da lei

O tema mais controverso e que suscitou a divisão, não só entre o Parlamento e a Comissão, mas também entre a sociedade civil, foi o definição do uso legal de inteligência artificial pelas agências de aplicação da lei. 

O Conselho, que representa os 27 governos nacionais dos estados membros, tentou conceder a possibilidade de usar inteligência artificial para identificar pessoas através de reconhecimento facial biométrico em tempo real.Outro pedido foi permitir a utilização destes sistemas para fins de policiamento preditivo.Isto envolve a utilização de algoritmos para prever a probabilidade com que um crime pode ser cometido, por quem e em que local.

Os países que tentaram avançar nesta direcção foramItália – esquecendo que o Fiador de privacidade proibiu o uso de reconhecimento em tempo real em 2021 - oHungria e o França.Especialmente este último tem recentemente pressionado muito na direção da segurança, primeiro com a lei sobre "segurança global” e depois com o lei em abril passado que autorizou o uso de inteligência artificial e investigações preventivas tendo em vista Olimpíadas de Paris.

Não é sol:As preocupações, especialmente na sociedade civil e nas organizações de direitos digitais, aumentaram quando, durante as negociações, o Conselho tentou permitir a utilização de reconhecimento biométrico com base étnica.

Quais usos de IA para vigilância são proibidos

A oposição levada a cabo pelo Parlamento resistiu e oo uso de inteligência artificial para vigilância foi proibido, salvo algumas exceções e em qualquer caso com autorização das autoridades judiciais. Do que surgiu nas horas seguintes, o regras são definidas sobre riscos, dividido em quatro categorias: mínimo, limitado, alto e inaceitável.Quanto maiores os riscos, maiores serão as responsabilidades daqueles que desenvolvem e utilizam esses sistemas específicos, até que foi proibido para aqueles considerados muito perigosos.

A Lei da IA proíbe a categorização biométrica de dados pessoais sensíveis, como etnia, fé ou orientação sexual;lá enorme coleção de rostos da internet e tecnologias que reconhecem o emoções (apenas, porém, no trabalho e na escola).Também proíbe sistemas capazes de manipular emoções de pessoas e aquelas baseadas em pontuação social, ou seja, o método de classificação da reputação dos cidadãos já adotado na China.

O reconhecimento biométrico em tempo real foi proibido, exceto em três situações: ameaça de terrorismo, busca de vítimas de crimes (como, por exemplo, reféns) e para identificar suspeito de alguns “crimes graves”.Lá primeira lista difundida inclui tráfico de seres humanos, tráfico de drogas, tráfico de armas, pornografia infantil e abuso infantil, crimes ambientais, assassinatos, mas também terrorismo e sequestro, crimes na realidade já incluídos nas três exceções previstas.

O sistemas de policiamento preditivo, no entanto, só pode ser usado para analisar informações anônimas para fornecer tendências na cena do crime, enquanto são proibidos sistemas que, por meio de algoritmos, indiquem um suspeito.Em outras palavras, um indivíduo não poderá ser investigado porque foi denunciado por um algoritmo.

As demais regras previstas na Lei AI

Uma questão importante sobre a qual o regulamento intervém é a transparência no uso de sistemas de inteligência artificial.Os usuários devem ser capaz de reconhecer o conteúdo profundamente falso, como imagens e vídeos, por meio de rótulos bem visíveis, e devem saber se eles estão interagindo com uma pessoa ou com um sistema, como um bots de bate-papo.Além disso, empresas os prestadores de serviços digitais terão aobrigação de identificar conteúdos criados com inteligência artificial que circulam em suas plataformas e devem ser automaticamente marcados como tal.Uma revolução se pensarmos no número de deep fakes que circulam, por exemplo, nas redes sociais.

Outro tema é o de’inteligência artificial generativa, esse sistema que é capaz de gerar texto, imagens, vídeos, música ou outras mídias em resposta a solicitações, como ChatGpt. A norma refere-se a sistemas de IA de uso geral, capaz de realizar diversas tarefas e treinado por meio de uma enorme quantidade de dados não categorizados.Alguns estão definidos limites para identificar sistemas com base no impacto:quanto maiores forem os efeitos sobre a população, maiores serão as obrigações a respeitar.

Entre outras questões, a questão relativa à proteção de direitos autorais e o transparência geral de todos os conteúdos digitais criado com inteligência artificial.

Os próximos passos da Lei AI e as críticas recebidas da sociedade civil

O texto do regulamento terminou o seu processo político e é agora passou para as mãos dos técnicos que têm a tarefa de rever as regras para verificar a sua coerência e alterações.Após a publicação do texto definitivo, aproximadamente no final do próximo mês de Janeiro, a Comissão dotar-se-á de um escritório de inteligência artificial. Cada estado terá que nomear uma autoridade local que supervisiona a aplicação do regulamento, trabalhando em conjunto com o Fiador da proteção de dados.

É importante sublinhar que Até o momento ainda não existe um documento definitivo que possa ser visualizado.Tudo o que sabemos foi comunicado na conferência de imprensa e divulgado por fontes de Bruxelas.

Sociedade civil e redes de associações europeias que lidam com direitos digitais, incluindo EDRi, uma rede de ONGs e acadêmicos que lidam com direitos digitais, são muito cauteloso na celebração do acordo alcançado.Os seguintes são da mesma opinião Associações italianas, incluindo O bom lobby, Centro Hermes E Rede de privacidade, que sublinham a preocupação com as múltiplas exceções à proibição do uso de reconhecimento facial em espaços públicos, mas sobretudo falta de transparência durante as negociações. Numa nota positiva, como ele ressalta Diletta Huyskes da Privacy Network, parece que a inclusão na regra de avaliação de impacto nos direitos fundamentais para inteligências artificiais de alto risco, mas isso também só poderá ser verificado com a publicação do texto definitivo.

Tal como acontece com outros regulamentos europeus, os detalhes mais problemáticos eles só surgirão uma vez o texto será divulgado.Durante as negociações, os governos tiveram de admitir que os sistemas de inteligência artificial são cada vez mais usado para vigilância em massa, perfilamento racial e outros fins prejudiciais e invasivos.O acordo contém limites, mas só com o texto definitivo será possível verificar o seu impacto, especialmente no que diz respeito à vigilância interna e às fronteiras.

É difícil ficar entusiasmado com uma lei que, pela primeira vez na União Europeia, tomou medidas para legalizar o reconhecimento facial em tempo real.Embora o Parlamento tenha lutado arduamente para limitar os danos, o pacote global sobre vigilância biométrica e definição de perfis não vai suficientemente longe.Nossa luta contra a vigilância biométrica em massa deve continuar

Ella Jakubowska, consultora sênior de políticas, EDRi