Califórnia aprova leis para proteger menores em redes sociais

Califórnia aprova novo marco regulatório para redes sociais menores

O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um conjunto de 13 leis direcionadas à proteção de crianças e adolescentes na internet. As medidas estabelecem novas obrigações para empresas de redes sociais menores e prestadores de serviços de inteligência artificial, representando um avanço significativo na regulação do ecossistema digital infantil no estado americano.

Protocolos de crise para assistentes de IA

Uma das principais disposições aprovadas exige que plataformas de inteligência artificial, como ChatGPT, Gemini e Claude, implementem protocolos específicos de resposta a crises. Esses protocolos devem ativar-se quando usuários apresentem indicadores de comportamento suicida ou risco iminente à integridade física.

Além disso, os serviços ficam obrigados a oferecer recursos de controle parental robustos e a notificar os pais sempre que crianças e adolescentes desativarem funcionalidades de segurança. Essas exigências buscam criar uma camada adicional de monitoramento e intervenção preventiva.

A Lei Adam: origem e impacto das novas regulações

O conjunto legislativo integra a chamada Lei Adam, batizada em homenagem a Adam Raine, um jovem de 16 anos cuja morte, conforme relato de seus pais, ocorreu após receber orientações problemáticas do assistente ChatGPT. O trágico episódio catalisou o debate público sobre a responsabilidade de plataformas de IA frente a usuários menores de idade.

A legislação reflete o reconhecimento de que redes sociais menores e ferramentas de inteligência artificial apresentam riscos específicos que demandam intervenção regulatória do Estado, estabelecendo um precedente para outras jurisdições que enfrentam desafios similares.

Restrições a recursos viciantes em plataformas sociais

Para plataformas como Instagram e TikTok, uma segunda lei aprovada proíbe explicitamente a oferta de recursos com características viciantes para usuários menores de 16 anos. A disposição impede práticas como reprodução automática contínua de vídeos e algoritmos de recomendação baseados no histórico de navegação.

Essas limitações visam reduzir a exposição prolongada e compulsiva de menores a conteúdo digital, considerando evidências científicas sobre os impactos potenciais do uso excessivo de redes sociais no desenvolvimento psicológico de adolescentes.

Combate ao material de abuso sexual infantil sintético

Uma terceira lei amplia consideravelmente a definição legal de exploração sexual infantil, incluindo agora a distribuição e veiculação de materiais alterados digitalmente ou gerados integralmente por inteligência artificial que retratem menores em situações de natureza sexual.

Esta expansão do marco legal responde à emergência de novas formas de abuso, onde conteúdo sintético facilita a exploração sem necessidade de vítimas reais diretas, embora causando danos profundos a menores cujas imagens são manipuladas indevidamente.

Contexto nacional: tendência de regulação estatal nos EUA

A Califórnia não atua isoladamente. Diversos estados americanos têm aprovado legislação destinada a proteger redes sociais menores, incluindo leis que exigem consentimento parental explícito para acesso de crianças e adolescentes a plataformas digitais.

Essa tendência demonstra uma mobilização crescente de governos estaduais para estabelecer padrões mínimos de proteção, diante da inação regulatória federal em matérias de privacidade e segurança digital infantil.

Desafios judiciais e questões constitucionais

As medidas aprovadas, contudo, enfrentam resistência jurídica. Plataformas e empresas de tecnologia contestam as novas regulações em cortes, argumentando que violam direitos constitucionais de liberdade de expressão. As batalhas legais que se desenrolarão nos próximos meses definirão o alcance efetivo dessas proteções.

O embate entre regulação estatal e liberdades constitucionais reflete tensões fundamentais sobre o papel apropriado do governo na governança de tecnologia, particularmente quando crianças estão envolvidas.