Debatedores cobram ação rígida contra mentiras produzidas por inteligência artificial

Alessandro Dantas

A atuação contra o discurso criminoso disseminado no ano eleitoral deve ser combatida não apenas com regras e ações dos órgãos judiciais, mas também com empenho mais firme das plataformas digitais. O tema foi pauta de debate, nesta quarta-feira (12/6), na Comissão de Defesa da Democracia.

O encontro reuniu senadores e senadoras, representantes de redes sociais (X, Google, Meta e TikTok), da Procuradoria-Geral da União (PGU) e da Organização das Nações Unidas (ONU).

Um dos requerentes da audiência, o líder do PT no Senado, Beto Faro (PA), mostrou preocupação com a influência das mentiras digitais, especialmente nos pequenos municípios do país.

“É bem mais complexo, porque, na eleição municipal, há municípios pequenos onde talvez o único meio de comunicação seja a rede social, quando não há TVs ou jornais locais, por exemplo”, disse, acrescentando que o monitoramento das informações será muito mais difícil nessas localidades.

“Mas sei que a ministra Cármen Lúcia [presidenta do Tribunal Superior Eleitoral], o ministro Alexandre de Moraes, que saiu, e os que estão dentro do TSE vêm trabalhando essa questão da regulamentação, e os resultados dessa audiência certamente chegarão a eles. Com isso, vamos aprimorar cada vez mais isso”, ressaltou Beto.

Também requerente da reunião na CDD, a senadora Teresa Leitão (PT-PE) ressaltou que a manipulação de áudios, textos, imagens e vídeos – por meio do chamado deepfake – encontra terreno fértil na sociedade em razão de vivermos em um ambiente político polarizado, marcado pela rivalidade e até mesmo pela violência.

“Os grupos extremos e os gabinetes do ódio gostam desse ambiente, e se utilizam da desinformação para conquistar espaços. Todavia, vamos reforçar o entendimento que a eleição manipulada não é legítima. Um voto influenciado por informações falsas não atende o interesse democrático nem à liberdade de expressão”, apontou.

Durante a audiência, as controladoras das plataformas digitais relataram os métodos que vêm adotando para controlar a disseminação de mentiras produzidas por meio de inteligência artificial, além de parcerias com órgãos como o TSE para controlar conteúdos.

Mas chamou a atenção a fala do representante da rede X, controlada pelo bilionário Elon Musk. De acordo com Renato Monteiro, “é proibido, por exemplo, usar o serviço com o propósito de manipular ou interferir em eleições ou em outros processos cívicos, como postar ou compartilhar conteúdo que possam suprimir a participação, ou levar à violência offline durante a eleição”.

Talvez tenha faltado a Monteiro combinar com o chefe o próprio discurso, já que Elon Musk ameaçou até mesmo reativar contas banidas da rede por decisões judiciais no Brasil após divulgação de informações falsas ou contendo discurso de ódio.

Brasil na frente, mas…

Integrante do Conselho Consultivo de Alto Nível da ONU para a IA, Estela Aranha apontou que o Brasil tem se destacado em relação aos outros países no combate à desinformação.

“Acompanhei em relação ao debate nos outros países. A diferença que temos no Brasil é quanto à sensibilização e à prontidão dos órgãos eleitorais para monitorar e controlar a utilização de IA nas eleições”, disse.

Porém ela demonstrou preocupação com as ramificações dos propagadores de mentiras online. Estela fez questão de ressaltar a atuação do TSE nessa frente, buscando reduzir os impactos de informações falsas disseminadas por candidatos e partidos políticos. No entanto, ela destaca que o órgão não consegue alcançar todos os apoiadores que divulgam informações falsas, o que gera impactos enormes.

“É preciso ressaltar que o uso irregular de ferramentas de IA no processo eleitoral faz parte de uma crise institucional e social, amplificado pelos modos da comunicação das redes sociais. Temos diversos vários países, com realidades econômicas e históricas diferentes, passando por esse problema. Isso cria um campo político que é contra a regulação, que não se preocupa com integridade dos processos eleitorais e quer gerar o caos, enfim, se autopromover, e atua com qualquer tipo de regulação, e fatos não importam. O compromisso é só com narrativas que podem mobilizar e engajar”, denunciou.

Na mesma linha, o representante da Procuradoria-Geral da União (PGU) Marcelo Eugênio Feitosa também mostrou confiança na capacidade do TSE de atuar firme no combate à desinformação no período eleitoral, mas destacou ser fundamental que as plataformas digitais saiam da inércia e atuem com mais veemência no tema.

“Não pode mais haver indiferença se o conteúdo é lícito ou ilícito. É preciso sair do sentimento de indiferença do que ela hospeda para um dever de cuidado. Informação de qualidade é indispensável para o efetivo exercício do direito ao voto”, apontou Feitosa.

Na avaliação dele, é preciso focar em quatro pontos no combate à desinformação causada pela tecnologia: a criação de legislações bem definidas sobre o tema, a estruturação de instituições competentes (como o TSE), a cooperação multisetorial (entre empresas, instituições, parlamento e partidos políticos) e a “formação de capacidade crítica da nossa cidadania”.

“Trata-se de uma preocupação global, hoje liderada aqui pelo Senado e também pelo TSE. E nós temos que garantir a precisão, a consistência e confiabilidade da informação de interesse político para a formação livre de convicções”, apontou.

Deepfakes

Uma das principais preocupações das autoridades foi em relação à manipulação de imagens, áudios e vídeos por meio da chamada deepfake, capaz de utilizar rostos e vozes e criar conteúdos falsos por meio de IA. Presentes na sessão, senadores do PT relataram terem sido vítimas destas manipulações.

Teresa Leitão, por exemplo, contou que uma voz foi modificada para o ter o mesmo tom da parlamentar durante a campanha eleitoral de 2022.

“A voz de quem falou foi modificada para ter o mesmo tom da minha, e fazia uma chamada que não era verdadeira. Era uma simples chamada para um ato de uma candidata que eu não apoiava, de oposição ao nosso candidato. E aí colocaram a minha voz fazendo a chamada. Uma coisa simples, mas altamente comprometedora”, disse a parlamentar.

“Nesse sentido, enquanto uso adequado da IA tende a auxiliar a campanha eleitoral e direcionar mensagens para diferentes públicos, o uso inadequado pode gerar fake news, bem como deepfakes com elevado grau de realismo, confundindo os eleitores”, completou.

Ao relatar também ser vítima de manipulação durante o período eleitoral, Beto Faro ressaltou que é muito difícil qualquer cidadão ou cidadã não ter sido vítima da má-informação ou das fake news. “Audiências como essa melhoram, aprimoram e nos ajudam a vencer essa etapa”, disse.

Confira imagens da audiência desta quarta-feira na CDD