O que são deepfakes e por que devemos começar a temê-los

Deepfakes são uma nova aplicação de inteligência artificial e aprendizado de máquina capaz de confundir as fronteiras entre o verdadeiro e o falso.

• A nova fronteira dos boatos, das notícias falsas, são os deepfakes
• A inteligência artificial corre o risco de dar origem a lendas urbanas difíceis de minar
• Algumas soluções para se defender contra esse desvio de informação

“Qual é a percepção da realidade?É a capacidade de capturar, processar e dar sentido ao que nossos sentidos recebem?Se você pode ouvir, ver, tocar ou cheirar algo, isso o torna real?”Isso foi perguntado em um vídeo postado no Youtube no ano passado Morgan Freeman, uma das estrelas mais antigas e famosas de Hollywood.Só que, no final do clipe, o próprio Morgan Freeman declarou que não era Morgan Freeman:o que nossos sentidos como espectadores acabaram de receber foi um deepfake, ou seja, uma nova aplicação de inteligência artificial e aprendizado de máquina capaz de confundir as fronteiras entre o verdadeiro e o falso.

O que significa deepfake?

O termo colonizou rapidamente a mídia e grande parte do novo imaginário comum, mas o que o que realmente são os deepfakes?Para começar, convém referir que, embora o mundo tenha começado a falar sobre isso nos anos que rodearam a pandemia de Covid-19, os deepfakes já existiam e progrediam há quase uma década:em 2014, Ian Goodfellow, ex-chefe da divisão de inteligência artificial da Apple, publicou um artigo científico que introduz o conceito de "rede adversária generativa" (ou Gan, sigla para rede adversária generativa), uma aplicação particular de aprendizado de máquina em que duas redes neurais se “desafiam” em um jogo de soma zero que lhes permite aprender a gerar novas imagensestou começando com um conjunto de dados existente.E em 2017, pesquisadores da multinacional de placas gráficas Nvidia fortalecem e tornam os resultados das redes Gan mais credíveis.

Este é o nascimento do deepfake:sites como thispersondoesnotexist.com disponibilizam ao público em geral ferramentas baratas de falsificação sem precedentes na história da humanidade e, pela primeira vez, o mundo percebe que a nossa relação com a realidade está por um fio.“Profundo” porque as redes neurais dessas ferramentas de geração são compostas por diferentes camadas:é o aprendizagem profunda, essa forma de inteligência artificial o que nos permite replicar características e vozes de pessoas reais;“falso” porque, bom, não há necessidade de explicações.

Em novembro de 2017, um usuário anônimo postou no Reddit um algoritmo capaz de produzir vídeos falsos, mas realistas:o código acaba no popular site de compartilhamento de código GitHub, onde é disponibilizado gratuitamente para qualquer pessoa.E desde então deepfake entra na primeira grande indústria em que ele ganhará destaque:pornô.Aplicativos como o FakeApp permitem que qualquer pessoa insira o rosto de outra pessoa em vídeos comprometedores que à primeira vista parecem realistas, gerando uma infinidade de riscos e muita misoginia:Scarlett Johansson, apesar de ser uma das mais frequentes protagonistas de vídeos pornográficos falsos espalhados pelos quatro cantos da internet, dirá que combatê-los é “uma causa perdida”, dado que “a internet é um buraco negro escuro que se alimenta de si próprio”. ".

Quais são os deepfakes mais famosos

Desde os seus primeiros passos, o “deep fake” percorreu um longo caminho, e algumas das suas encarnações levaram a opinião pública a questionar os méritos e riscos que esta nova tecnologia traz consigo:além do já citado vídeo deepfake de Morgan Freeman, obra dos holandeses Bob de Jong e Boet Schouwink, pelo menos o rendição falsa do presidente ucraniano Volodymr Zelensky, divulgado pela Rússia no ano passado, e o deepfake do ator Tom Cruise que virou moda no Tiktok, criado pelos especialistas em efeitos especiais Chris Ume e Miles Fisher a partir de centenas de milhares de fotos e vídeos da estrela de Hollywood.

O deepfake também apareceu na televisão, ampliando ainda mais o público exposto aos seus feitiços:no exterior, o programa satírico Saturday Night Live exibiu um deepfake de Hillary Clinton em lágrimas, completamente indistinguível de um vídeo genuíno, enquanto na Itália Striscia la Notizia fez a mesma coisa com um vídeo gerado por algoritmos do ex-primeiro-ministro Matteo Renzi.Em 2018, o jornal online Buzzfeed circulou um clipe falso, mas real, de Barack Obama, que revelou apenas no final que era interpretado pelo ator Jordan Peele.

Os riscos dos deepfakes

Com grande poder vem uma grande responsabilidade, disse um conhecido super-herói dos quadrinhos, e o mesmo se aplica às incógnitas que surgem no horizonte dos deepfakes.O que acontece quando milhares, e potencialmente até milhões, de pessoas acreditam num vídeo falso de um líder político anunciando uma guerra nuclear?E antes disso:o que será do nosso relação com a realidade, agora que o que vemos e ouvimos não é mais “verdadeiro” por definição?

Mesmo nas nossas latitudes, na altura do deepfake de Matteo Renzi na Striscia la Notizia, muitos observadores apontaram que a apresentação algo ambígua do conteúdo no horário nobre poderia dar origem a mal-entendidos com graves consequências:Wired tinha isso definido “mais um desafio para o jornalismo e para a opinião pública como um todo”.

Mas no exterior, como acontece frequentemente, o debate sobre os deepfakes está muito mais à frente do que chega às primeiras páginas em Itália:no ano passado pela primeira vez um campanha massiva de vídeos mostrando atores de TV falsos e incomumente pró-chineses inundaram o Facebook e o Twitter de língua inglesa, abrindo uma nova e preocupante frente doguerra de informação geopolítico.

Quem nos salvará da invasão das ultrafalsificações?

Você certamente não os lê, pelo menos por enquanto:o único estado que passou medidas urgentes tentar conter o fenômeno é o China, que no início deste ano tornou obrigatória a obtenção do consentimento da pessoa “falsificada” e a apresentação de sinais distintivos, como marcas de água, que atestam o carácter falso da obra.Mas o dragão também tem os mesmos problemas que o resto do mundo:Como podemos conter um fenómeno cujos abusadores mais ferozes operam frequentemente anonimamente, em plataformas fluidas onde o conteúdo se multiplica tão rapidamente que podem agir quase sem serem perturbados?

Algo, pelo menos outra coisa, está começando a se mover também na velha Europa: Lei de Inteligência Artificial, recém-aprovado pelo Parlamento da UE, visa impor um novo padrão internacional para a regulamentação e transparência das aplicações de inteligência artificial.Mas muitas partes do seu texto são objeto de debate e dúvidas jurídicas:é difícil definir o âmbito do que pode ser rotulado como “inteligência artificial”, e muito menos quão difícil pode ser regulá-lo.Por enquanto, em suma, aquelas fotos e vídeos de pessoas que não existem estão destinadas a fazer o bom e o mau tempo:e nós, como naquele grande clássico de Sanremo, não vemos mais a realidade.

Como reconhecer um deepfake

Diante de todos esses riscos, resta compreender como se defender de deepfakes:o que não é nada simples, e será cada vez menos, com o progresso exponencial destes (no último Photoshop, a Adobe apresentou uma função generativa capaz de criar fotomontagens quase indistinguíveis da realidade).

No momento em que este artigo foi escrito, as principais inteligências artificiais ainda tinham alguns problemas com a entrega das mãos dos seres humanos:se você vir uma terminação de membro superior com algo estranho, não descarte que possa ser falsa.

O Mit recomenda, entre outras coisas, de preste atenção na pele do seu rosto dos protagonistas de suspeitas de deepfakes:se parecer muito apertado, ou vice-versa, muito enrugado ou com diferentes graus de idade em diferentes partes do rosto, então há uma boa chance de que aquela imagem, ou aquele vídeo, não seja real.E até mesmo piscar e movimentar os lábios podem dar bons indícios nesse sentido.