Segundo a ONU, a inteligência artificial é uma ameaça potencial à humanidade

Para combater as notícias falsas e a deriva da inteligência artificial, o secretário-geral da ONU recorre ao “modelo nuclear”.

A inteligência artificial é um setor específico:o único, poder-se-ia dizer, em que os seus próprios empresários viajam pelo mundo denunciando os riscos para a humanidade.Sam Altman, cofundador e CEO da OpenAI, empresa que desenvolveu o ChatGpt, faz isso há meses, conversando com políticos de todas as nacionalidades sobre o “perigo” que a IA representaria para a sobrevivência da civilização humana.Muitas vezes até o ouvimos usar a palavra “extinção”, confirmando os receios – fundados ou não – do seu carácter simbólico.Há alguns dias, o ex-diretor de negócios do Google X, Mo Gawdat, até convidado a humanidade “não tenha filhos” precisamente por causa das incertezas sistémicas que estas tecnologias projectam no nosso futuro.

O cenário apocalíptico das inteligências artificiais

Mas é fácil falar sobre Armagedom quando a IA está envolvida.É um cenário assustador, mas também fascinante à sua maneira, lembrando um filme de ficção científica (Exterminadores, por exemplo);mas acima de tudo é uma possibilidade distante.O que poderia acontecer.Mais cedo ou mais tarde.No entanto, existem riscos ligados à IA que são muito mais próximos e contemporâneos do que o perigo de extinção gritado por Altman:A IA já é utilizada hoje em dia para campanhas de desinformação e propaganda online.Assim como milhões de pessoas descobriram as capacidades do ChatGpt em gerar textos curtos escritos, na verdade, organizações políticas de todos os tipos estão usando-os para espalhar notícias falsas e “ruído”.E eles estão apenas começando.

Na passada segunda-feira, numa reunião onde se discutiu a desinformação, o secretário-geral das Nações Unidas, António Guterres, chamou a atenção da política internacional precisamente para este lado da IA, apoiando a criação de um órgão especificamente concebido para monitorizar o desenvolvimento destas tecnologias, em nos moldes da Agência Internacional de Energia Atômica (AIEA).Esta última, fundada em 1957, no auge da Guerra Fria, foi fortemente apoiada pela ONU com o objectivo de promover a utilização pacífica da energia nuclear e impedir a sua utilização para fins militares.

O paralelo entre a IA e a energia nuclear não foi acidental:segundo o Secretário-Geral, de facto, a difusão generalizada da inteligência artificial representaria “um risco existencial para a humanidade semelhante ao de uma guerra nuclear”.Em ambos os casos, trata-se, de facto, de tecnologias avançadas que podem sair das mãos dos investigadores ou ser exploradas no terrorismo ou no sector da guerra.Guterres parece, portanto, concordar com parte da própria indústria da IA, mas acredita que a emergência está muito mais próxima e mais realista do que dizem profetas obscuros como Altman.

A carta aberta de cientistas de tecnologia

Guterres observou que “os alarmes sobre as formas mais recentes de inteligência artificial generativa são ensurdecedores”, sublinhando como os receios mais fundados vêm dos “desenvolvedores que os conceberam”.A referência do secretário é provavelmente à carta aberta assinado por vários cientistas e empresários do sector tecnológico, incluindo Elon Musk, Steve Wozniak e Tristan Harris, em Março passado, onde pediram para “pausar o desenvolvimento” desta tecnologia “durante pelo menos seis meses”, de forma a encontrar uma forma de evitar e conter suas repercussões negativas.O escritor e especialista em inteligência artificial “amigável” Eliezer Yudkowsky ele respondeu ao pé da letra, especificando que não bastava pausar a pesquisa no setor:você apenas tem que parar com isso.

O próprio Altman, como referido, tem repetidamente reiterado a possibilidade dos cenários mais pessimistas, conquistando também a simpatia do Congresso norte-americano em maio passado, quando foi convidado para um debate sobre o tema.Segundo alguns, a sua seria uma estratégia destinada precisamente a aterrorizar as pessoas reguladores falando sobre IA assassina e extinções em massa, para desviar a atenção dos perigos iminentes e provavelmente já em curso.Como a disseminação de notícias falsas, a criação de mídias “sintéticas” geradas com IA, ou seja, fotos, vídeos e áudios em que figuras políticas dizem e fazem coisas inapropriadas, por exemplo.Eles são os chamados deepfake, que correm o risco de poluir os poços da discussão política e cultural, criando um ambiente em que tudo poderia ser seja falso e nada seja levado a sério.

Bem, esses são os perigos da inteligência artificial, não do despertar da Skynet (a super rede rebelde de computadores do filme Exterminadores).Guterres parece ter percebido isso e apresentou a sua ideia de uma agência internacional de monitorização do sector.É uma pena que “só os Estados membros possam criá-lo, e não o Secretário das Nações Unidas”, como ele próprio explicou.Antes de pensar no apocalipse de um filme de ficção científica, vale a pena começar por aqui.