Relatório 365 Dias

Pesquisadores usam IA Claude para descobrir falha em OpenAI

Pesquisadores usam IA Claude para descobrir falha em OpenAI
Imagem: g1.globo.com. Uso informativo; os direitos pertencem ao seu titular.

Descoberta de Vulnerabilidade na Plataforma OpenAI

Pesquisadores da startup Hacktron AI identificaram uma vulnerabilidade OpenAI durante um exercício de segurança coordenado com a própria empresa. A falha foi encontrada no fórum público de ajuda da OpenAI, gerenciado pela plataforma Discourse, permitindo que especialistas em informática acessassem dados de funcionários. A descoberta reforça preocupações crescentes sobre como ferramentas de inteligência artificial estão facilitando ciberataques sofisticados que anteriormente exigiriam equipes especializadas e longos períodos de trabalho.

Utilização de IA Claude para Exploração da Falha

Os pesquisadores utilizaram modelos de IA da Anthropic, especificamente o Claude, para identificar e explorar a vulnerabilidade no sistema da OpenAI. Inicialmente, a Hacktron testou o Claude Opus 4.8, enfrentando dificuldades em manter a funcionalidade consistente do ataque. Posteriormente, migraram para o Claude Opus 5, versão mais recente da Anthropic, que conseguiu produzir um ataque operacional em apenas três horas de trabalho.

Modelos de IA e Capacidades de Cibersegurança

A Anthropic desenvolveu diferentes versões do Claude com distintas níveis de sofisticação. O Claude Mythos, considerado o modelo mais avançado, conta com as habilidades mais robustas em cibersegurança entre todos os modelos criados pela empresa. No entanto, este modelo permanece restrito a um número reduzido de organizações de defesa cibernética que passaram por avaliação criteriosa. Os pesquisadores da Hacktron optaram por não utilizar o Mythos durante seus testes de segurança na OpenAI.

Resposta Rápida da OpenAI

A empresa OpenAI respondeu de forma ágil à descoberta da vulnerabilidade. Após serem notificados sobre a falha, os sistemas foram corrigidos em aproximadamente 14 horas. A empresa também demonstrou seu comprometimento com a segurança ao recompensar os pesquisadores com 6.500 dólares, equivalente a aproximadamente 34.000 reais. Drew Pusateri, porta-voz oficial da OpenAI, expressou gratidão aos pesquisadores pela comunicação imediata e pela colaboração na resolução do problema.

Contexto de Segurança e Testes Contínuos

A falha identificada faz parte de um exercício organizado pela própria OpenAI com objetivo de localizar vulnerabilidades em suas infraestruturas. Este tipo de teste, conduzido com especialistas externos em informática, representa uma prática comum entre grandes empresas de tecnologia. A Hacktron AI confirmou sua intenção de continuar realizando testes similares em outras companhias, expandindo sua atuação na identificação de brechas de segurança em sistemas corporativos.

Tendência Preocupante no Setor de Cibersegurança

O incidente exemplifica uma preocupação cada vez maior entre especialistas em segurança cibernética. As ferramentas de inteligência artificial moderna estão tornando possível que ciberataques complexos sejam executados com maior rapidez e menor custo do que antes. Atividades que demandavam equipes especializadas dedicadas por meses agora podem ser realizadas em horas utilizando modelos de IA avançados, alterando significativamente o panorama de ameaças digitais.

Coordenação entre Hacktron, OpenAI e Discourse

Os pesquisadores da Hacktron informaram que notificaram imediatamente a OpenAI e a plataforma Discourse sobre a vulnerabilidade descoberta. Trabalhou-se em coordenação com ambas as organizações para implementar solução definitiva. A comunicação transparente e a colaboração entre as partes permitiram que o problema fosse resolvido rapidamente, minimizando riscos potenciais para usuários da plataforma. Este modelo de cooperação reforça a importância da coordenação responsável na divulgação de falhas de segurança.

Também em Tecnologia

Criptomoedas

Ethereum (ETH) $2,654 ▲ 1.79%
BNB $779 ▲ 2.69%
Solana (SOL) $111 ▲ 1.45%

Divisas

USD/EUR0.8726
EUR/GBP0.8588