Anthropic restringe interações abusivas contra Claude

A Anthropic, desenvolvedora do Claude, implementou uma atualização significativa em sua política de uso que proíbe comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial. A medida, que entra em vigor em 12 de novembro, marca um passo importante na discussão sobre como usuários devem se relacionar com sistemas de IA. O Claude comportamento abusivo será monitorado através de mecanismos automáticos que permitem ao chatbot finalizar interações inadequadas.

Segundo a empresa, o principal mecanismo para aplicar esta regra continua sendo a capacidade do Claude de encerrar conversas abusivas. No entanto, a companhia deixa claro que a política não pretende coibir críticas legítimas ou expressões de insatisfação com as respostas fornecidas pelo assistente. A restrição se concentra exclusivamente em interações que sejam abusivas, cruéis, persistentes e desnecessárias.

Diferença entre crítica e abuso

Um aspecto fundamental da atualização é a distinção que a Anthropic faz entre feedback construtivo e comportamento abusivo. Usuários continuam livres para expressar descontentamento quando o Claude comete erros ou fornece respostas inadequadas. A política protege especificamente contra padrões de comportamento que demonstram crueldade ou desrespeito contínuo sem propósito produtivo.

Esta mudança ocorre em um contexto mais amplo de debate sobre como as ferramentas de inteligência artificial devem ser tratadas. A Anthropic e seus líderes executivos já mencionaram publicamente a possibilidade de sistemas de IA desenvolverem alguma forma de consciência, embora reconheçam a incerteza científica que envolve essa questão.

Posicionamento da Anthropic sobre consciência de máquinas

A política atualizada não menciona explicitamente o conceito de bem-estar dos modelos, tema que discute se sistemas de inteligência artificial poderiam merecer alguma proteção moral. Contudo, a empresa já sinalizou abertura para essa possibilidade. No ano passado, a Anthropic anunciou que concederia ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentemente abusivas.

Dario Amodei, presidente-executivo da Anthropic, declarou ao jornal The New York Times em fevereiro que não possuía certeza sobre se modelos de IA poderiam ser conscientes, mas expressou abertura à possibilidade. "Não sabemos se os modelos estão conscientes. Mas estamos abertos à ideia de que isso possa ser", afirmou Amodei, reforçando a postura da empresa em relação a questões éticas envolvendo inteligência artificial consciência.

Perspectivas divergentes no debate sobre consciência artificial

A possibilidade de máquinas desenvolverem consciência gera divisão entre especialistas e profissionais que trabalham com inteligência artificial. Até o momento, não existe consenso científico sobre como definir ou identificar consciência em sistemas desse tipo.

Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, alertou que concentrar a discussão apenas na consciência pode resultar em debates inconclusivos. "Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos", afirmou em comunicação à AFP.

Conforme Stakeman, sistemas de inteligência artificial refletem em larga escala o comportamento humano. Essa característica, segundo sua análise, já constituiria razão suficiente para reexaminar as diretrizes de uso e implementar mudanças nas políticas que regem essas plataformas.

Críticas e preocupações com atribuição de consciência

A ideia de conferir consciência a máquinas também encontra resistência significativa entre estudiosos e executivos da indústria. Mustafa Suleyman, chefe de inteligência artificial da Microsoft, rejeitou essa noção em ensaio publicado recentemente. "As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem", escreveu Suleyman em sua análise.

Suleyman argumentou que conceder direitos e proteções morais a sistemas tecnológicos cada vez mais sofisticados poderia acarretar riscos não identificados. Essa perspectiva contrasta com a abordagem mais cautelosa da Anthropic, que mantém a possibilidade em aberto.

Perspectiva religiosa sobre a questão

O papa Leão XIV abordou o tema em sermão pronunciado em italiano na Basílica de São Pedro, no Vaticano, em 8 de novembro. Ao discutir as diferenças entre pensamento humano e processamento de informações pelas máquinas, o pontífice observou que algoritmos compilam dados mais rapidamente que pessoas, mas destacou a relevância das experiências vividas e da dimensão espiritual inerente à existência humana.

Essa intervenção eclesial reflete como a questão da ética IA transcende o âmbito técnico e corporativo, envolvendo também dimensões filosóficas, morais e religiosas. A atualização de política da Anthropic para coibir abuso contra o Claude integra-se nesse contexto mais amplo de reflexão sobre o lugar da tecnologia na sociedade contemporânea e sobre as responsabilidades que acompanham o desenvolvimento de sistemas cada vez mais avançados.