China e Irã usam IA para espionar dissidentes, revela Anthropic

Anthropic identifica campanhas de vigilância com inteligência artificial

A empresa de inteligência artificial Anthropic divulgou esta semana um relatório preocupante sobre o uso de IA para espionagem por parte de governos autoritários. Segundo o documento, foram encerradas várias operações de vigilância patrocinadas por Estados que utilizavam modelos de IA para monitorar e perseguir grupos vulneráveis. A IA para espionagem tornou-se uma ferramenta cada vez mais sofisticada nas mãos de atores estatais e não-estatais que buscam controlar populações.

Os incidentes detectados e interrompidos entre janeiro e julho de 2024 tiveram origem em três regiões principais: China, Irã e África Ocidental. Em cada caso, as autoridades e grupos alinhados a governos autoritários aproveitaram os modelos de linguagem Claude para desenvolver sistemas de vigilância direcionados. O relatório revela que essas campanhas de vigilância visavam especificamente comunidades históricas perseguidas por esses regimes.

Alvos principais das operações de vigilância

Os grupos alvo da IA para espionagem identificados pela Anthropic incluem ativistas pró-democracia de Hong Kong, comunidades tibetanas, minorias religiosas e opositores do regime iraniano que vivem no exterior. Essas comunidades da diáspora foram escolhidas estrategicamente, pois representam vozes críticas aos respectivos governos e potenciais ameaças ao controle estatal.

Um caso particularmente preocupante envolveu iranianos que desenvolveram um método sofisticado para identificar e rastrear pessoas através de suas contas em redes sociais. Essa técnica de vigilância digital permite que autoridades localizem dissidentes onde quer que estejam, representando uma ameaça direta à segurança pessoal desses indivíduos.

Operações na África Ocidental e destilação de dados

Na África Ocidental, especificamente no Mali, um contratado trabalhando para as autoridades de segurança nacional utilizou o Claude para projetar software subjacente que facilitava a coleta de inteligência. Isso demonstra como a IA para espionagem pode ser integrada em infraestruturas de vigilância já existentes, amplificando significativamente sua capacidade de monitoramento.

A Anthropic também denunciou desenvolvedores chineses que utilizavam o Claude de forma enganosa. Esses atores gerava respostas para consultas de usuários enquanto simultânea e clandestinamente "destilavam" esses dados para aprimorar seus próprios modelos de inteligência artificial. A destilação é um processo técnico no qual um modelo de IA é utilizado para treinar outro, e sua execução não autorizada representa uma violação grave de propriedade intelectual e privacidade.

Bloqueios e pesquisas biológicas problemáticas

Além das operações de vigilância, a Anthropic bloqueou múltiplas tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online. A empresa demonstra estar atenta aos diversos abusos potenciais de sua IA para espionagem e outras aplicações prejudiciais.

Em relação às pesquisas ligadas a armas biológicas que foram detectadas e bloqueadas, a empresa não conseguiu identificar claramente as intenções dos envolvidos. O relatório especifica que as pessoas envolvidos eram cientistas, e a Anthropic optou por não identificá-los por preocupações éticas, reconhecendo que expor seus nomes ou laboratórios poderia representar riscos adicionais.

Foco em pesquisas virais e agentes patogênicos

As pesquisas biológicas bloqueadas concentravam-se em áreas potencialmente perigosas. Os estudos envolviam trabalhos relacionados ao vírus chikungunya, transmitido por mosquitos; uma cepa "altamente patogênica" de gripe aviária; uma família de vírus que inclui a varíola e o mpox; além de venenos e outras toxinas. Esses focos temáticos sugerem preocupações legítimas sobre o potencial uso da IA para espionagem e desenvolvimento de armas biológicas.

Implicações para a segurança global

O relatório da Anthropic sinaliza um desenvolvimento inquietante no cenário geopolítico global. A IA para espionagem representa uma escalada significativa nas capacidades de vigilância de Estados autoritários, permitindo monitoramento em escala e precisão nunca antes alcançados. A empresa sediada em San Francisco continua aprimorando seus mecanismos de detecção e bloqueio para prevenir usos prejudiciais de seus modelos.

Esses incidentes destacam a necessidade urgente de regulamentações internacionais mais rigorosas sobre o uso de inteligência artificial em contextos de segurança e vigilância. A comunidade internacional deve trabalhar em conjunto para estabelecer padrões éticos e legais que impeçam o abuso de tecnologia de IA para espionagem e perseguição política.