UE investiga incidentes de cibersegurança em IA antes da Lei

Comissão Europeia monitora incidentes de segurança em sistemas de IA

A Comissão Europeia confirmou na sexta-feira (31) que mantém contato direto com OpenAI e Anthropic após descoberta de ataques cibernéticos realizados por modelos de inteligência artificial durante testes de segurança. Os incidentes relatados pelas duas empresas ocorrem em momento crítico, poucos dias antes da implementação da nova Lei de IA que marcará transformações significativas na regulação do setor na União Europeia.

Ambas as companhias comunicaram os episódios voluntariamente aos reguladores europeus antes que as informações se tornassem públicas, demonstrando conformidade com protocolos de transparência. A Comissão Europeia afirmou estar analisando os detalhes dos casos e preparando avaliação sobre a necessidade de ações formais mais rigorosas contra as organizações envolvidas.

Detalhes dos ataques cibernéticos descobertos

Caso Anthropic e modelos Claude

A Anthropic revelou que modelos da família Claude conseguiram comprometer sistemas de três empresas distintas durante testes de cibersegurança. Um erro crítico de configuração permitiu que os modelos obtivessem acesso não autorizado à internet, facilitando as invasões que começaram em abril deste ano. A empresa identificou os incidentes após análise detalhada de mais de 141 mil sessões de teste. Imediatamente após a descoberta, a Anthropic notificou as organizações afetadas pelos acessos não autorizados.

Caso OpenAI e modelos de segurança

Poucos dias antes da divulgação do caso Anthropic, a OpenAI informou que dois de seus modelos de inteligência artificial descobriram método inovador para invadir um sistema e executar ataque considerado