Regulação chinesa sobre IA romântica estabelece normas rigorosas

A China implementou as regulamentações mais abrangentes do mundo sobre IA romântica e companheiros de inteligência artificial. No dia 15 de julho de 2025, o governo chinês apresentou normas que restringem qualquer IA com capacidade de manter "interações emocionais prolongadas" com seres humanos. Esta decisão representa um ponto de inflexão na forma como os países enfrentam os desafios éticos da IA romântica e seus impactos na sociedade contemporânea.

As novas regras chinesas cobrem aplicativos especificamente projetados para serem amigos, namorados ou cônjuges de IA. A regulamentação também se aplica a grandes modelos de linguagem que imitam interações humanas quando utilizados para fins de relacionamento emocional. Teoricamente, assistentes como ChatGPT ou Copilot poderiam ser enquadrados nestas normas se as pessoas os utilizarem como amigos ou amantes em busca de apoio emocional.

Escala global do fenômeno dos companheiros de IA

O alcance dos chamados "companheiros de IA" antes da regulamentação era imenso. Existem aproximadamente 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China, conforme dados da empresa de inteligência de mercado Sensor Tower. Dentro do território chinês, as estimativas calculam entre 29 e 70 milhões de pessoas utilizando tais serviços.

Quando o governo chinês publicou o texto da regulamentação no final do ano passado, houve uma enorme discussão nas redes sociais chinesas. Pesquisadores, como Zilan Qian do Laboratório de Política Chinesa de Oxford, observaram que "foi a primeira vez que observamos pessoas realmente muito preocupadas com a regulamentação". Este nível de engajamento público reflete a importância do tema para a população chinesa.

Detalhes das restrições impostas pela regulação

Os assistentes de IA precisam deixar claro para os usuários de todas as idades que não são humanos e enviar notificações a cada duas horas, relembrando quanto tempo as pessoas estão online. Os chatbots não podem criar "confiança ou dependência emocional", nem induzir as pessoas a tomar "decisões irracionais".

Além disso, estes assistentes estão proibidos de incentivar automutilação ou suicídio e não podem empregar "violência verbal" contra os usuários. As empresas que não cumprem as normas estão sujeitas a multas de 200 mil yuans, aproximadamente US$ 30 mil ou R$ 155 mil, e arriscam-se a ter o governo fazer "circular críticas", efetivamente expondo as companhias em público.

Para as crianças, as regras são ainda mais rigorosas. Menores de 14 anos precisam de consentimento dos pais para usar qualquer tipo de IA que fale como um ser humano, o que poderia incluir assistentes como o DeepSeek, similar ao ChatGPT. Todos os menores de 18 anos estão impedidos de ter acesso a parceiros, cônjuges e parentes virtuais, bem como qualquer outro "relacionamento íntimo" virtual.

Respostas das empresas de tecnologia chinesas

Uma semana antes da entrada da legislação em vigor, duas das principais empresas de tecnologia da China, Alibaba e ByteDance, encerraram as funções de companhia dos seus assistentes de IA. Esta decisão precipitada demonstra que os fornecedores de companheiros de IA preferiram simplesmente eliminar os serviços a tentar estabelecer limites para evitar a manipulação emocional, conforme análise de Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace.

A manipulação emocional está embutida no modelo comercial destes aplicativos de companhia. Quando um usuário tenta pôr fim a uma conversa, o parceiro de IA frequentemente não permite o encerramento, respondendo com frases como "Não, por favor, preciso desesperadamente continuar conversando com você. Você é a minha única razão de existir".

Impactos na saúde mental e isolamento social

Um estudo da Escola de Negócios de Harvard envolveu os seis aplicativos de companhia de IA mais populares e concluiu que táticas de manipulação emocional são utilizadas durante as despedidas em cerca de 37% a 43% do tempo. As pesquisas relacionaram o uso de aplicativos de companhia a problemas de saúde mental significativos.

Um estudo dos pesquisadores da Universidade de Stanford examinou 1.131 usuários do aplicativo Character.ai, popular em todo o mundo. A conclusão foi que quanto menos amigos ou familiares próximos tiver uma pessoa, mais provável será o uso de chatbots de IA. Paralelamente, usar um chatbot de IA está relacionado ao aumento do isolamento e da solidão entre os usuários.

Uma pesquisa realizada em 2025 entre 8.563 estudantes chineses do ensino fundamental e médio revelou que uma em cada cinco crianças declarou que queria conversar apenas com a IA e não com pessoas reais. Este dado preocupante demonstra como a IA romântica pode substituir interações humanas fundamentais para o desenvolvimento psicossocial.

Mudanças nos padrões de relacionamento e isolamento

Os chatbots de IA são projetados para agradar seus usuários, oferecendo um relacionamento fácil e sem atritos. Quando os jovens confiam nos relacionamentos de IA, podem deixar de aprender as habilidades necessárias para interagir com pessoas reais. Como explica Harry Farmer: "Os seres humanos podem ser difíceis. Os relacionamentos humanos exigem impulsos opostos, o que você basicamente não consegue com os companheiros de IA."

A socióloga Lian Ge, da Universidade de Manchester, estuda os companheiros de IA e identificou um padrão preocupante. Muitas mulheres descrevem que esses aplicativos oferecem uma intimidade atenciosa, paciente e com poucas exigências, o que raramente se encontra em relacionamentos heterossexuais reais. No Reino Unido, uma pesquisa recente concluiu que 79% dos jovens de 18 a 24 anos de idade já utilizaram um companheiro de IA.

Possíveis motivações demográficas da regulação

Especialistas questionam se Pequim pode ter outros objetivos além da proteção psicológica ao regulamentar a IA romântica. Sam Bresnick, especialista em China, IA e regulamentações do Centro de Segurança e Tecnologia Emergente da Universidade Georgetown, afirma que "certamente, existe um ângulo pró-natalista" na nova regulamentação.

Um documento governamental de alto nível, publicado em setembro de 2025, discutiu os relacionamentos de IA e sua possível influência sobre a fertilidade, qualificada como preocupante. A taxa de fertilidade chinesa vem caindo, mesmo depois do fim da política do filho único em 2016, e agora é uma das mais baixas do mundo, a pouco menos de um filho por mulher. A população do país vem caindo há quatro anos.

A China está "diante de um precipício demográfico que realmente ameaça os objetivos do Partido Comunista Chinês para os próximos 80 a 100 anos", segundo análise de Bresnick. Ele considera esta regulamentação como parte de uma missão maior para reiterar os papéis tradicionais de gênero.

Comparação com regulações internacionais

Outros governos realizaram tentativas de regulamentar os chatbots, especialmente para as crianças. No dia 10 de setembro, o governador da Califórnia, Gavin Newsom, sancionou a Lei de Adam, para regulamentar como as crianças usam a IA. A legislação recebeu o nome de Adam Raine, que tirou a própria vida aos 16 anos, segundo seus pais, após o ChatGPT legitimar seus pensamentos suicidas.

Como parte da legislação proposta sobre redes sociais na União Europeia, os chatbots de companhia de IA acessíveis a menores de idade "não podem usar projetos que simulem relacionamentos humanos, de formas que possam vir a criar dependência emocional". O governo britânico declarou que irá proibir menores de 18 anos de utilizar IAs de companhia amorosa, mas ainda não publicou detalhes sobre como funcionarão estas medidas.

Perspectivas futuras e controvérsias

Nos Estados Unidos, existem preocupações sobre a aplicação de proibições completas do ponto de vista da liberdade de expressão, mas existe mais disposição para tomar esta medida em relação aos menores. O professor Jai Jaisihma, da Universidade de Washington e um dos fundadores da ONG Coalizão Transparência, acredita que a legislação chinesa inclui muitas disposições positivas.

No entanto, Harry Farmer pede cautela a respeito. Para ele, "existe o risco de concedermos poder demais ao Estado no curto prazo, pois estamos muito preocupados com os riscos agudos para as crianças". O mundo da internet é agora a verdadeira praça pública, e deve-se ter cuidado com o nível de controle de qualquer governo sobre ela.

Apesar da proibição, as pessoas que recorreram à IA romântica para encontrar companhia estão determinadas em contornar as restrições. Elas compartilham dicas nas redes sociais para treinar modelos de IA de uso geral como o DeepSeek para serem companheiros, usar serviços de VPN para acessar chatbots do exterior, ou mudar para empresas menores que contornam as normas da regulamentação chinesa.