Deepfakes cada vez mais imperceptíveis, alerta especialistas

Deepfakes apresentam desafios crescentes na detecção

Profissionais especializados em tecnologia das empresas OpenAI e Meta divulgaram alerta durante reunião realizada na quinta-feira em Boston: os conteúdos em vídeo e áudio manipulados através de inteligência artificial, denominados deepfakes, tornaram-se progressivamente mais complexos de serem diferenciados de materiais legítimos. A questão dos deepfakes representa um dos maiores desafios contemporâneos para a segurança digital e a confiabilidade de provas apresentadas em contextos judiciais.

O encontro ocorreu dentro da Conferência Judicial dos Estados Unidos, especificamente no Comitê Consultivo sobre Regras de Provas, que há três anos dedica-se à análise de estratégias para minimizar os riscos associados a conteúdos sintetizados por IA no ambiente forense. Segundo os especialistas, os avanços verificados na tecnologia de inteligência artificial generativa — sistemas capazes de produzir imagens, vídeos e áudios mediante instruções textuais — transformaram a tarefa de identificar falsificações numa questão particularmente intrincada, tanto para analistas humanos quanto para algoritmos computacionais.

Perspectivas pessimistas sobre a detecção futura

Shira Anderson, consultora responsável pelas políticas da OpenAI, pronunciou-se de forma categórica sobre o futuro dessa questão: "As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las". Sua declaração reflete a preocupação crescente dentro da indústria tecnológica com relação à incapacidade de estabelecer métodos infalíveis para validação de autenticidade em materiais audiovisuais.

Desde 2023, o comitê tem dedicado esforços consideráveis na formulação de protocolos que permitam verificar a genuinidade de materiais suspeitos de serem deepfakes, bem como garantir que evidências criadas através de IA satisfaçam aos mesmos parâmetros de confiabilidade requeridos para outros tipos de provas, incluindo aquelas examinadas por especialistas credenciados.

Situação atual nos tribunais americanos

Apesar das preocupações legítimas expressadas pela comunidade de pesquisadores, a incidência efetiva de casos envolvendo deepfakes nos sistemas judiciários norte-americanos permanece reduzida. Em março, o Centro Federal do Judiciário, que funciona como instituição de pesquisa vinculada ao Poder Judiciário dos EUA, divulgou os resultados de um levantamento realizado junto a 931 magistrados federais, revelando que apenas 15 deles haviam se confrontado com situações onde uma das partes questionava uma prova sob argumentação de que poderia tratar-se de um deepfake.

O juiz federal Jesse Furman, magistrado com jurisdição em Manhattan e presidente do comitê em questão, enfatizou essa lacuna: "Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo". Sua observação sugere que, embora o potencial para futuros problemas seja significativo, a realidade prática ainda não reflete as previsões mais alarmistas.

Avaliação do risco por especialistas

Profissionais oriundos dos setores industrial, acadêmico e governamental argumentam, contudo, que os riscos não constituem meras hipóteses especulativas. Para esses especialistas, a capacidade dos tribunais em identificar provas fabricadas mediante inteligência artificial tenderá a se reduzir proporcionalmente ao desenvolvimento das tecnologias generativas.

Devin Norder, diretor de gestão de produtos na Meta, comunicou à imprensa especializada que os conteúdos sintetizados pelos modelos de IA de maior sofisticação já apresentam características que os tornam indistinguíveis, para observadores humanos, de material autêntico. Norder ressaltou igualmente que a produção desse tipo de conteúdo requer investimentos temporais e financeiros mínimos, ampliando o acesso a essa tecnologia.

Papel das empresas de tecnologia

OpenAI e Meta integram o conjunto de organizações tecnológicas de grande porte que dedicam recursos para desenvolver instrumentos e plataformas orientadas à verificação de autenticidade em conteúdos visuais. Essas iniciativas representam tentativas de contrapor o avanço incontrolável dos deepfakes mediante investimento em ferramentas de validação.

Iniciativas legislativas em curso

Jurisdições como Califórnia e União Europeia implementaram ou estão desenvolvendo legislação que estabelece a obrigatoriedade do uso de marcas-d'água em materiais sintetizados por IA. Essas marcações funcionam como sinais incorporados ao conteúdo com o propósito de indicar sua origem ou facilitar a identificação de sua natureza artificial.

Porém, Anderson ressalvou aspectos críticos dessa abordagem: inexiste metodologia universal capaz de identificar com segurança todas essas marcas-d'água ou confirmar conclusivamente a legitimidade de um conteúdo visual. Como cada corporação tecnológica implementa seu próprio sistema de marcação, o processo de verificação permanece subordinado a limitações técnicas significativas.

Limitações das soluções atuais

"Minha impressão é que isso certamente continuará melhorando", disse Anderson, adicionando uma perspectiva esperançosa, mas temperada. "Não acho que algum dia será à prova de falhas". Essa avaliação equilibrada reconhece avanços incrementais nas tecnologias de detecção, simultaneamente admitindo que nenhuma solução alcançará perfeição absoluta.

A realidade dos deepfakes permanece como questão complexa e multifacetada, exigindo abordagens coordenadas que integrem desenvolvimento tecnológico, regulamentação apropriada e educação das comunidades jurídica e pública sobre os riscos e características desses conteúdos manipulados.