Governo solicita investigação sobre chatbots de amizade e companheirismo

O Ministério da Justiça e Segurança Pública comunicou formalmente, na segunda-feira (21), a necessidade de investigação aprofundada sobre os chatbots de amizade que proliferam em plataformas de inteligência artificial. A Secretaria Nacional de Direitos Digitais (Sedigi) encaminhou recomendação à Agência Nacional de Proteção de Dados (ANPD) para avaliar esses serviços que simulam relacionamentos virtuais, companheirismo e até cenários românticos com usuários.

A solicitação ocorre no contexto de implementação do Estatuto Digital da Criança e do Adolescente (ECA Digital), legislação que estabelece normas de proteção e segurança para menores em ambientes digitais. O documento técnico orienta que a agência reguladora examine essas plataformas sob a perspectiva desse novo marco legal.

Análise preliminar revela desconformidades em serviços de IA

Embora o Ministério da Justiça não acuse as plataformas de infrações diretas, a análise técnica identificou indicadores de desconformidades após examinar 13 serviços diferentes de chatbots de amizade. Os serviços analisados incluem Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI.

O próprio órgão governamental ressalta que se trata de uma avaliação preliminar, deixando aberta a possibilidade de investigações mais profundas posteriores. Os achados técnicos apontam preocupações significativas em relação à forma como essas plataformas operam atualmente.

Problemas identificados na proteção de menores

Entre as questões mais preocupantes identificadas pelo governo estão a falta de verificação efetiva da idade dos usuários, a possibilidade de desenvolvimento de dependência compulsiva do serviço, a exposição a conteúdo inadequado e a coleta de dados para criar perfis emocionais e comportamentais dos usuários.

A análise técnica revelou que a maioria dos serviços avaliados utiliza exclusivamente a autodeclaração como mecanismo de verificação etária. Segundo o relatório da Secretaria Nacional de Direitos Digitais, essa abordagem apresenta vulnerabilidades graves.

Autodeclaração como único critério de verificação

"Os achados técnicos indicam que a maior parte dos serviços analisados adota a autodeclaração como único mecanismo de aferição de idade", afirmou a Sedigi. A facilidade com que esse sistema pode ser contornado não representa apenas uma deficiência no cumprimento do dever de verificar a idade dos usuários, mas constitui também um indicativo do acesso provável de menores aos serviços.

Essa constatação submete automaticamente os serviços ao conjunto de obrigações estabelecidas pela legislação de proteção digital. O fato de menores conseguirem acessar facilmente essas plataformas, independentemente de sua idade real, viola princípios fundamentais do ECA Digital.

Características funcionais dos serviços de IA analisados

Os chatbots de amizade operacionalizados nessas plataformas possuem características sofisticadas que variam entre os serviços, mas compartilham funcionalidades comuns. Muitos mantêm histórico completo das conversas, adaptam suas respostas baseado no perfil individual do usuário e simulam personalidade e emoções de forma realista.

Algumas plataformas vão além, oferecendo simulações de amizade profunda, relacionamentos românticos e até conteúdo sexual adulto. Essa variedade de ofertas aumenta a complexidade regulatória e os riscos potenciais, especialmente para usuários menores de idade.

Recomendações governamentais para investigação complementar

O documento técnico do Ministério da Justiça recomenda que a Secretaria Nacional do Consumidor (Senacon) também realize análise paralela desses serviços. Essa agência deve examinar possíveis irregularidades na forma como as plataformas implementam publicidade, estratégias de monetização e gestão das informações coletadas dos usuários.

A investigação complementar pela Senacon visa identificar práticas comerciais potencialmente abusivas ou enganosas nas quais as plataformas de chatbots de amizade possam estar incorrendo. A combinação de análises pela ANPD e Senacon permitirá uma avaliação holística dos riscos e desconformidades.

ECA Digital como marco regulatório fundamental

O Estatuto Digital da Criança e do Adolescente representa avanço significativo na proteção de menores em ambientes digitais. A lei impõe deveres explícitos de proteção e segurança para todas as plataformas e serviços que possam ser acessados por crianças e adolescentes.

A iniciativa do Ministério da Justiça de examinar os chatbots de amizade reflete o compromisso governamental com a implementação efetiva dessa legislação. A investigação proposta busca garantir que as plataformas cumpram suas obrigações legais e protejam adequadamente os usuários menores.

Próximos passos na fiscalização de plataformas de IA

A recomendação do Ministério da Justiça representa o início de um processo que pode resultar em ações regulatórias significativas contra plataformas de chatbots de amizade. As agências competentes agora possuem orientações técnicas concretas para conduzir suas investigações.

A ANPD terá a responsabilidade de avaliar os riscos de proteção de dados e conformidade com o ECA Digital, enquanto a Senacon examinará aspectos relacionados às práticas comerciais e publicidade. Essas análises complementares fornecerão base sólida para futuras decisões regulatórias que possam resultar em obrigações mais rigorosas para os operadores dessas plataformas.