Proposta de critério para identificar deepfake

O ministro André Mendonça apresentou nesta terça-feira (25) uma proposição ao Tribunal Superior Eleitoral (TSE) buscando estabelecer parâmetros claros sobre o uso de deepfake nas eleições. A iniciativa visa criar uma tese que defina quando a tecnologia de manipulação de vídeos e áudios constitui violação das normas eleitorais, diferenciando conteúdos sintéticos genuinamente prejudiciais de outras formas de uso de inteligência artificial.

Segundo a posição do ministro, a deepfake nas eleições deve ser considerada problemática apenas quando apresentar um grau de realismo e verossimilhança objetivamente capaz de provocar falsa percepção de autenticidade no eleitor. Em outras palavras, o conteúdo precisa ter potencial real de enganar o público, induzindo-o a acreditar que se trata de um registro genuíno e não manipulado.

Diferenciação entre deepfake e outras tecnologias

A proposta de Mendonça distingue a deepfake de outras aplicações de inteligência artificial utilizadas no processo eleitoral. Para o ministro, a simples identificação de que um conteúdo foi produzido com ferramentas de IA não é suficiente para classificá-lo como violação das regras eleitorais, caso não apresente características de enganosidade.

Essa diferenciação é fundamental para que a Justiça Eleitoral consiga estabelecer limites entre deepfake nas eleições e outras formas de representação digital, como memes, caricaturas, animações e produções claramente fantásticas que utilizam recursos de inteligência artificial mas não buscam simular autenticidade.

O que é deepfake

A deepfake é uma técnica baseada em inteligência artificial que possibilita alterar vídeos ou fotografias de forma sofisticada. Por meio dessa tecnologia, é possível trocar o rosto de uma pessoa por outro, modificar a voz de um indivíduo, ou ainda substituir completamente a expressão facial e os movimentos de alguém em uma gravação. A tecnologia utiliza algoritmos de aprendizado profundo para criar conteúdos que simulam ser autênticos, o que representa um desafio significativo para a verificação de autenticidade.

Resolução do TSE sobre conteúdo sintético

O Tribunal Superior Eleitoral já publicou uma resolução neste ano que proíbe expressamente o uso da tecnologia para prejudicar ou favorecer qualquer candidatura. A norma veda "conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia".

No entanto, há debate intenso sobre o alcance dessa medida. Durante as campanhas eleitorais, surgiu a interpretação de que o uso positivo de inteligência artificial poderia ser liberado pela Corte em determinadas situações, criando ambiguidade sobre quais aplicações seriam realmente permitidas.

Contexto da decisão sobre Flávio Bolsonaro

A proposta de tese de Mendonça foi apresentada em uma decisão que atendeu a um pedido da campanha do candidato à presidência pelo PL, Flávio Bolsonaro. A Corte determinou a retirada de um vídeo produzido com inteligência artificial que associava o senador ao ex-banqueiro Daniel Vorcaro, preso na operação Compliance Zero, supostamente estabelecendo conexões financeiras e participação em esquema de rachadinha.

Na fundamentação da decisão, Mendonça argumentou que o conteúdo em questão apresentava "imagens artificialmente fabricadas dotadas de grau de realismo e verossimilhança objetivamente apto a produzir falsa percepção de autenticidade", além de não contar com a identificação exigida pelas normas aplicáveis ao uso de inteligência artificial no processo eleitoral.

Importância para as eleições de 2026

O ministro justificou a apresentação da tese enfatizando a relevância do tema e a expectativa de multiplicação de discussões semelhantes ao longo do processo de eleições de 2026. Com a popularização crescente das ferramentas de criação de conteúdo sintético, a capacidade de regulação e identificação adequada de deepfakes se torna essencial para a integridade do processo democrático.

A tese proposta por Mendonça ofereceria à Justiça Eleitoral um referencial mais claro para diferenciar deepfakes realmente prejudiciais de outras manifestações de uso de inteligência artificial eleitoral que não buscam enganar ou que possuem fins evidentemente satíricos ou artísticos.

Perspectivas para o TSE

A aprovação da proposta de Mendonça representaria um avanço na definição de critérios objetivos para a atuação da Justiça Eleitoral. Ao estabelecer parâmetros de realismo e verossimilhança como elementos definidores, a Corte teria ferramentas mais precisas para avaliar casos específicos e tomar decisões fundamentadas em critérios consistentes.

Essa abordagem equilibra a necessidade de proteger a integridade do processo eleitoral contra manipulações prejudiciais com a garantia de liberdade de expressão e criação artística, permitindo que formas legítimas de uso de tecnologia nas eleições não sejam prejudicadas por regulações excessivamente rigorosas.