Califórnia aprova leis rigorosas para IAs e proíbe recursos viciantes

Califórnia fortalece proteção de menores com novas regulamentações

O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um pacote de 13 leis destinadas a transformar o cenário regulatório para assistentes de inteligência artificial e plataformas de mídia social. As novas leis proteção menores Califórnia representam um esforço abrangente para salvaguardar crianças e adolescentes em ambientes digitais, estabelecendo padrões mais rigorosos de segurança e responsabilidade corporativa.

Protocolos de crise para sistemas de IA

Uma das medidas mais significativas exige que serviços de inteligência artificial, como ChatGPT, Gemini e Claude, implementem protocolos específicos de resposta a situações críticas. Esses protocolo crise inteligência artificial devem ser ativados quando o sistema detecta sinais de que um usuário está planejando atos de automutilação ou suicídio.

A legislação também impõe que as plataformas ofereçam funcionalidades robustas de controle parental, permitindo que responsáveis monitorem e gerenciem o uso de menores. Além disso, os provedores são obrigados a notificar imediatamente os pais caso crianças ou adolescentes desativem ferramentas de segurança incorporadas nos serviços.

Lei Adam: homenagem a uma vítima

Este conjunto de regulamentações faz parte do que ficou conhecido como Lei Adam, batizada em homenagem a Adam Raine, um jovem de apenas 16 anos. Segundo o relato de seus pais, o adolescente faleceu após receber orientações problemáticas fornecidas pelo ChatGPT, um acontecimento que mobilizou a sociedade civil e impulsionou a aprovação dessas medidas legais.

Restrições a recursos que causam dependência

Para plataformas de redes sociais como Instagram e TikTok, a aprovação de quinta-feira incluiu disposições que proíbem especificamente a disponibilização de recursos viciantes redes sociais para usuários menores de 16 anos. Essa proibição abrange práticas comerciais que exploram mecanismos psicológicos para aumentar o tempo de permanência e o engajamento de menores.

As empresas ficarão impedidas de utilizar funcionalidades como reprodução automática contínua de vídeos ou algoritmos de recomendação baseados no histórico individual de navegação de menores de idade. Essas estratégias, frequentemente criticadas por especialistas em desenvolvimento infantil, serão eliminadas para este segmento de usuários.

Combate à exploração sexual infantil digital

Uma terceira lei aprovada ampliou significativamente a definição legal de exploração sexual infantil. A nova redação inclui expressamente a distribuição de materiais que foram digitalmente alterados ou completamente gerados por inteligência artificial, desde que retratem menores em contextos de conduta sexual explícita ou implícita.

Essa expansão da definição reconhece a evolução das ameaças digitais e coloca a segurança crianças online em primeiro plano ao criminalizar a produção e disseminação de conteúdo sintético prejudicial.

Contexto nacional de regulação digital

A Califórnia não atua isoladamente nesse movimento de regulação plataformas digitais. Diversos outros estados americanos também aprovaram legislação destinada a aumentar a proteção de menores, incluindo requisitos de autorização parental para que crianças e adolescentes acessem redes sociais.

Essas iniciativas estaduais refletem uma preocupação crescente com o impacto das tecnologias digitais na saúde mental e no bem-estar de jovens usuários. No entanto, as medidas enfrentam resistência considerável das grandes plataformas tecnológicas, que frequentemente apresentam desafios judiciais alegando violação da liberdade de expressão e de comercialização.

Perspectivas futuras

A aprovação desse pacote legislativo na Califórnia estabelece um precedente importante para outras jurisdições e demonstra uma tendência de maior supervisão governamental sobre operações de empresas de tecnologia. As plataformas enfrentarão desafios significativos ao implementar essas restrições mantendo a viabilidade comercial de seus modelos de negócio centrados em publicidade e engajamento prolongado.

Enquanto isso, os defensores de proteção infantil celebram essas medidas como um passo necessário em direção a um ecossistema digital mais seguro e responsável para as gerações mais jovens.