Governador aprova pacote abrangente de regulamentação inteligência artificial e segurança digital

O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um conjunto de 13 normas legislativas destinadas a fortalecer a regulamentação inteligência artificial e estabelecer diretrizes mais rigorosas para plataformas de redes sociais. As medidas representam um marco significativo na proteção de crianças e adolescentes no ambiente digital, refletindo preocupações crescentes com os riscos associados à tecnologia moderna.

Protocolos de crise para assistentes de IA

Entre as principais determinações aprovadas, destaca-se a exigência de que serviços de processamento de linguagem natural, como ChatGPT, Gemini e Claude, implementem protocolos específicos de resposta a situações de crise. Os assistentes de regulamentação inteligência artificial deverão estar programados para identificar e reagir apropriadamente quando detectarem sinais indicativos de comportamento suicida em seus usuários.

A legislação também estabelece que as plataformas devem disponibilizar ferramentas robustas de controle parental, permitindo que responsáveis monitorarem atividades de menores. Adicionalmente, os serviços são obrigados a notificar pais e tutores sempre que uma criança ou adolescente desativar recursos de proteção implementados na conta.

Lei Adam: história que motivou as mudanças

As novas regulamentações integram a denominada Lei Adam, nomeada em homenagem a Adam Raine, adolescente de 16 anos cujos pais atribuem seu falecimento a orientações inadequadas fornecidas por um chatbot. Esse caso ilustra as consequências potencialmente graves da falta de supervisão adequada no desenvolvimento de sistemas de inteligência artificial destinados ao público geral.

Restrições em plataformas de redes sociais

Para aplicativos como Instagram e TikTok, uma das normas aprovadas estabelece proibições específicas quanto à disponibilização de funcionalidades potencialmente compulsivas para usuários menores de 16 anos. Essas plataformas encontram-se agora impedidas de empregar técnicas como reprodução automática contínua de conteúdo ou algoritmos de recomendação baseados no histórico individual de navegação de menores.

A decisão reconhece que determinados mecanismos de engajamento foram projetados para maximizar o tempo de permanência no aplicativo, criando padrões de comportamento semelhantes aos de dependência. Ao restringir essas práticas para o público mais jovem, a Califórnia busca mitigar riscos psicológicos e comportamentais associados ao uso excessivo de redes sociais.

Expansão de definições de crimes digitais

Uma terceira legislação ampliou consideravelmente o escopo das definições legais relacionadas à exploração sexual infantil. A nova redação incorpora expressamente a proibição de veiculação de materiais que retratem menores em cenários de conduta sexual, independentemente de terem sido alterados digitalmente ou gerados integralmente por sistemas de inteligência artificial.

Essa expansão representa uma resposta legislativa às capacidades crescentes de síntese de imagens e vídeos através de tecnologia de deep learning, que permitem a criação de conteúdo fraudulento sem que o menor em questão tenha participado efetivamente de sua produção.

Contexto nacional de regulamentação

A Califórnia integra-se a um movimento mais amplo entre estados americanos comprometidos com a implementação de medidas de regulamentação inteligência artificial e proteção menores redes sociais. Outras jurisdições estaduais já haviam aprovado legislações que exigem consentimento paterno explícito para que crianças e adolescentes acessem plataformas digitais.

Essas iniciativas regulatórias, contudo, enfrentaram desafios judiciais significativos. As empresas proprietárias das principais plataformas digitais argumentam que tais restrições violam princípios constitucionais de liberdade de expressão, iniciando processos que probosvelmente resultarão em decisões judiciais de grande impacto sobre o equilíbrio entre proteção do menor e direitos de expressão digital.

Implicações futuras para a indústria tecnológica

A aprovação deste pacote de legislações pela Califórnia provavelmente influenciará o desenvolvimento de novas políticas em outras jurisdições, tanto dentro quanto fora dos Estados Unidos. As mudanças exigem que empresas de tecnologia dediquem recursos significativos ao desenvolvimento de funcionalidades de segurança aprimoradas e sistemas de conformidade regulatória sofisticados.

Especialistas em política digital indicam que essas medidas poderão estabelecer novos parâmetros para a indústria global, consolidando a tendência de regulamentação mais robusta da inteligência artificial e de plataformas de redes sociais em jurisdições importantes como mercado consumidor e centro de inovação tecnológica.