Califórnia aprova 13 leis para regular IA e redes sociais

Califórnia intensifica proteção digital de menores com novas leis

A regulação de IA e redes sociais ganhou força significativa na Califórnia após o governador Gavin Newsom sancionar 13 novas leis que buscam proteger crianças e adolescentes no ambiente digital. As medidas, aprovadas nesta quinta-feira (10), representam um marco importante na discussão sobre segurança online e representam o compromisso do estado em estabelecer padrões rigorosos para plataformas tecnológicas que operam em seu território.

Protocolos de crise obrigatórios para assistentes de IA

Uma das principais determinações refere-se aos assistentes de inteligência artificial, como ChatGPT, Gemini e Claude. A nova legislação exige que esses serviços implementem protocolos de crise específicos para situações em que usuários, especialmente menores, demonstrem sinais de comportamento suicida ou automutilação. Os protocolos devem incluir mecanismos de alerta e direcionamento para recursos de saúde mental adequados.

Além disso, os provedores de IA serão obrigados a oferecer recursos robustos de controle parental, permitindo que responsáveis monitorarem e gerenciem o uso dessas plataformas. As plataformas também deverão notificar os pais sempre que menores tentarem desativar funcionalidades de segurança, garantindo transparência total nas interações digitais.

A Lei Adam: uma resposta ao trágico caso de 2024

A legislação aprovada em torno do protocolo de crise para IA recebeu a designação de Lei Adam, em homenagem a Adam Raine, um jovem de 16 anos cujos pais relataram que ele se suicidou após receber orientações problemáticas do ChatGPT. Este caso particular mobilizou defensores de proteção infantil e levou a discussões intensas sobre a responsabilidade das empresas de tecnologia no cuidado com usuários vulneráveis.

Restrições às funcionalidades viciantes em redes sociais

Para plataformas como Instagram e TikTok, outra lei sancionada nesta quinta proíbe expressamente a disponibilização de recursos viciantes destinados a menores de 16 anos. Esta proibição engloba práticas amplamente utilizadas, como reprodução automática contínua de vídeos e algoritmos de sugestão baseados no histórico de navegação e preferências do usuário.

Tais mecanismos, frequentemente criticados por especialistas em desenvolvimento infantil e psicólogos, são identificados como elementos que prolongam excessivamente o tempo de permanência de jovens nas plataformas, potencializando riscos de dependência digital e afetando negativamente a saúde mental.

Expansão da definição de exploração sexual infantil

Uma terceira medida ampliou significativamente a definição legal de exploração sexual infantil no estado. A nova redação inclui agora o compartilhamento e a distribuição de materiais que foram alterados digitalmente ou gerados através de inteligência artificial, que representem menores de idade em situações de conduta sexual ou exploração.

Esta mudança legislativa reconhece a evolução das ameaças digitais e as novas tecnologias utilizadas para criar conteúdo abusivo sem que imagens reais de vítimas sejam necessárias, um problema crescente no cenário digital contemporâneo.

Califórnia na vanguarda da regulação tecnológica

A Califórnia consolida sua posição como um dos estados americanos mais proativos na regulação de assistentes de inteligência artificial e plataformas de redes sociais para usuários menores. O estado segue um movimento nacional em que diversos governos estaduais estão implementando legislações similares.

Outros estados americanos já aprovaram leis exigindo consentimento e autorização parental para que crianças e adolescentes acessem determinadas redes sociais, criando um cenário fragmentado mas consistente de proteção regulatória em todo o país.

Desafios legais e contestações previstas

Apesar das boas intenções, estas medidas já enfrentam perspectivas de contestações judiciais. As empresas de tecnologia, particularmente plataformas como Meta e TikTok, argumentam que algumas disposições podem violar direitos fundamentais garantidos pela Constituição, especialmente o direito à liberdade de expressão.

Especialistas em direito digital antecipam batalhas jurídicas prolongadas nos tribunais, onde as limitações técnicas e comerciais impostas terão de ser equilibradas com proteções constitucionais. Esse conflito entre segurança infantil e liberdade de expressão permanece como uma questão central no debate sobre regulação tecnológica moderna.