O Tribunal Superior Eleitoral (TSE) reafirmou sua posição contrária ao uso de deepfakes nas campanhas eleitorais, mas estabeleceu que para a proibição ser considerada ilícita, é necessário um grau de realismo que dificulte a detecção de falsificações. Essa decisão vem em um momento em que a evolução da inteligência artificial (IA) torna cada vez mais desafiadora a tarefa de distinguir entre o autêntico e o fabricado.
No último dia 15, especialistas da OpenAI e da Meta fizeram um alerta durante uma reunião em Boston, onde discutiram as implicações da IA generativa, que cria conteúdos como vídeos e áudios de forma quase indistinguível de produções genuínas. Segundo Shira Anderson, consultora de políticas da OpenAI, as capacidades dessa tecnologia estão avançando a tal ponto que a identificação científica de deepfakes pode se tornar inviável no futuro.
O Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA tem se debruçado sobre o tema há três anos. Apesar das preocupações, os registros de deepfakes nos tribunais americanos ainda são escassos. De uma pesquisa realizada pelo Centro Federal do Judiciário, apenas 15 de 931 juízes reportaram ter enfrentado casos questionando a autenticidade de provas por suspeita de que fossem deepfakes. O juiz federal Jesse Furman, que preside o comitê, reconhece que, embora o debate acadêmico seja intenso, a realidade nos tribunais ainda não reflete essa urgência.
Os especialistas alertam, no entanto, que a dificuldade em detectar essas falsificações não é uma questão meramente teórica. Devin Norder, da Meta, ressaltou que os modelos de IA mais sofisticados estão criando conteúdos que parecem autênticos até mesmo para os olhos humanos, e o custo e o tempo para produzi-los são mínimos. Em resposta a essa crescente preocupação, tanto na Califórnia quanto na União Europeia, novas legislações foram propostas para implementar marcas-d’água, que atuariam como um selo de autenticidade em conteúdos gerados por IA.
Contudo, Anderson adverte que não existe um método infalível para garantir a identificação de todas essas marcas. Como cada empresa adota seu próprio sistema, a verificação de autenticidade permanece repleta de limitações. À medida que as tecnologias continuam a evoluir, a questão da confiabilidade das provas em ambientes judiciais torna-se cada vez mais complexa, exigindo uma reflexão cuidadosa sobre como as leis e os procedimentos podem acompanhar essa rápida transformação.
Crédito da imagem: Foto: Pixabay — Michelle-Maria (pixabay)
