O ministro do Tribunal Superior Eleitoral (TSE) André Mendonça determinou a exclusão de um vídeo feito com inteligência artificial (IA) que ligava o candidato à Presidência da República Flávio Bolsonaro (PL) ao dono do Banco Master, Daniel Vorcaro. A decisão foi assinada em 9 de setembro e, segundo o documento, em análise preliminar, o conteúdo tinha aparência realista suficiente para configurar deep fake eleitoral, que é proibido pelo TSE.
Leia mais: Eleições: o que é permitido no uso de IA nas campanhas
No vídeo, que já foi retirado das redes sociais, o candidato à presidência aparecia ao lado de Vorcaro, do governador Tarcísio de Freitas (Republicanos) e Fabiano Zettel, empresário, pastor e cunhado do dono do Master. Flávio dançava em frente a uma fachada com a marca Banco Master, cercado por dinheiro. Depois, ele aparecia algemado, sendo preso por agentes da Polícia Federal.
Ao analisar o caso, Mendonça afirmou que a peça foi construída sob forma visual capaz de conferir aparência documental a acontecimento inexistente.
A peça reproduz as fisionomias do representante e dos demais indivíduos retratados com aparência fotorrealista e as insere em cenário visualmente plausível, mantendo características próprias de registro audiovisual real.... O resultado apresenta grau de verossimilhança suficiente para que, no curso ordinário da visualização, o eleitor médio possa apreendê-lo como documentação autêntica do acontecimento representado Trecho da decisão de André Mendonça
Além disso, segundo texto da decisão a que o iG teve acesso, não havia aviso, marca d'água ou outra identificação informando que as imagens haviam sido produzidas ou manipuladas por IA. Dessa forma, Mendonça entendeu, em caráter provisório, que estavam presentes os elementos para enquadrar o vídeo como deep fake proibido.
Ao determinar a exclusão do vídeo, Mendonça frisou que a permanência da postagem “permitia a continuidade de sua difusão e replicação, ampliando os efeitos da irregularidade durante o processo eleitoral”.
Após determinar a exclusão do conteúdo, o ministro intimou o dono do perfil responsável pela publicação.
Conteúdo ilegal
O ministro do TSE ainda esclareceu na decisão que o simples uso de inteligência artificial não torna um conteúdo ilegal.
O problema, segundo ele, está na combinação de fatores encontrados no processo, que incluiu conteúdo artificial, uso da imagem de pessoas reais, finalidade eleitoral, intenção de prejudicar uma candidatura e realismo suficiente para criar uma falsa aparência de autenticidade.
Ele também afirma que, nesse caso, não bastaria colocar posteriormente um aviso dizendo que o vídeo foi feito com IA.
A irregularidade aqui identificada não pode ser sanada mediante mera inserção posterior de rótulo, marca-d'água ou advertência acerca da utilização de inteligência artificial... O art. 9º-C, § 1º, não institui simples dever de transparência, mas veda o uso, para prejudicar ou favorecer candidatura, do conteúdo sintético que reúna os pressupostos necessários à sua caracterização como deep fake André Mendonça
No início desse mês, o TSE decidiu livrar Flávio Bolsonaro de uma multa pelo uso de um vídeo gerado por inteligência artificial (IA) que recriou a imagem e a voz de Jair Bolsonaro durante a convenção nacional do partido.
A gravação mostrava uma reprodução artificial do ex-presidente declarando apoio à candidatura do filho. O TSE entendeu que o material foi caracterizado como propaganda eleitoral.