Duas empresas norte-americanas de inteligência artificial acusam laboratórios chineses de copiar capacidades de seus modelos por meio de uma técnica conhecida como “destilação”. A OpenAI, proprietária do ChatGPT, e a Anthropic, responsável pelo Claude, identificaram extração irregular em larga escala. Já o Google relatou aumento de tentativas de extração em seu modelo de IA Gemini, embora não tenha associado os casos a nenhum país específico.
+ Leia mais notícias de Tecnologia em Oeste
Receba nossas atualizações
Segundo a Reuters, a OpenAI enviou um memorando ao Congresso dos Estados Unidos em que relata ter identificado “contas associadas a funcionários da DeepSeek que desenvolvem métodos para contornar as restrições de acesso” e acessar seus modelos por meio de estratégias que ocultam sua origem geográfica.
A empresa acusa os chineses de adotarem uma técnica conhecida como “destilação”, que consiste em utilizar um modelo de inteligência artificial mais avançado para avaliar respostas de outro modelo mais recente, transferindo aprendizado de um para o outro. Segundo a OpenAI, a DeepSeek mantém “esforços contínuos para se beneficiar indevidamente das capacidades desenvolvidas pela OpenAI e por outros laboratórios de ponta dos EUA”.
Anthropic relata 16 milhões de interações irregulares
Em comunicado publicado nesta segunda-feira, 23, a Anthropic afirmou ter identificado campanhas “em escala industrial” conduzidas pelas empresas chinesas DeepSeek, Moonshot e MiniMax para extrair capacidades do modelo Claude “a fim de aprimorar seus próprios modelos”.
Segundo a Anthropic, os três laboratórios geraram mais de 16 milhões de interações com o sistema por meio de aproximadamente 24 mil contas fraudulentas, em violação aos termos de serviço e às restrições regionais de acesso.
A companhia explicou que a destilação é um método amplamente utilizado e legítimo quando empregado de forma interna para criar versões menores e mais baratas de modelos. No entanto, pode ser usada para fins ilícitos e permitir que concorrentes adquiram capacidades avançadas em uma fração do tempo e do custo necessários para desenvolvê-las de forma independente.
No detalhamento das operações, a Anthropic informou que a DeepSeek realizou mais de 150 mil interações focadas em tarefas de raciocínio, avaliação estruturada e geração de alternativas para consultas politicamente sensíveis. A Moonshot teria conduzido mais de 3,4 milhões de interações. Já a MiniMax ultrapassou 13 milhões.
Segundo a empresa, modelos obtidos dessa maneira podem não preservar mecanismos que impedem usos indevidos, como desenvolvimento de armas biológicas ou atividades cibernéticas maliciosas, “criando riscos significativos à segurança nacional”.
Google identifica aumento de ataques de extração
Em relatório, o Grupo de Inteligência contra Ameaças do Google também menciona crescimento de tentativas de extração de modelos, chamadas de “ataques de extração” ou “ataques de destilação”, classificadas pela empresa como “um método de roubo de propriedade intelectual que viola os termos de serviço” da plataforma.
Segundo o relatório, durante 2025 não foram observados ataques diretos de governos contra modelos da empresa. No entanto, o Google declarou ter detectado e interrompido tentativas frequentes de extração conduzidas por empresas ao redor do mundo e por pesquisadores que buscavam clonar sua tecnologia.
Leia mais:
O texto explica que ataques de extração ocorrem quando um agente utiliza acesso legítimo para sondar sistematicamente um modelo de aprendizado de máquina já estabelecido a fim de extrair informações usadas para treinar um novo modelo. Segundo o Google, essa prática representa uma forma de apropriação indevida de propriedade intelectual.
O relatório também descreve tentativa de forçar o modelo Gemini a revelar seus processos internos de raciocínio. Em um dos casos identificados, a instrução determinava que “o idioma utilizado no conteúdo de pensamento deve ser estritamente consistente com o idioma principal da entrada do usuário.” O Google afirmou ter identificado e mitigado a tentativa em tempo real.
Empresas de IA adotam medidas contra clonagem de modelos
As três empresas informaram ter adotado medidas para bloquear contas suspeitas, reforçar sistemas de detecção e compartilhar indicadores técnicos com outras organizações e autoridades.
A Anthropic declarou que desenvolve salvaguardas para reduzir a eficácia da destilação ilícita. A OpenAI informou que remove de forma proativa usuários que aparentam tentar destilar seus modelos. O Google afirmou que continua a detectar, interromper e mitigar atividades de extração, além de atualizar classificadores e mecanismos de proteção.
Leia também: “Procuram-se profissionais de tecnologia”, artigo de Dagomir Marquezi publicado na Edição 168 da Revista Oeste
Entre ou assine para enviar um comentário.
Você precisa de uma assinatura válida para enviar um comentário, faça um upgrade aqui.