A Anthropic está pedindo ao Congresso que reforce as proteções contra a destilação de modelos de inteligência artificial, após alegar que operadores afiliados ao Alibaba realizaram o maior esforço conhecido para extrair capacidades de seu chatbot Claude.
Em uma carta datada de 10 de junho ao presidente da Comissão Bancária, Habitacional e de Assuntos Urbanos do Senado, Tim Scott, e à principal membro da oposição, Elizabeth Warren, a Anthropic alegou que operadores afiliados ao Alibaba e ao seu laboratório de IA Qwen geraram mais de 28,8 milhões de interações com o Claude entre 22 de abril e 5 de junho, usando quase 25.000 “contas fraudulentas”, ou seja, contas que não representavam usuários reais e orgânicos.
Conhecido como um ataque de destilação, a Anthropic afirmou que as operações visaram as capacidades de raciocínio agentivo, engenharia de software e planejamento de longo prazo do Claude, permitindo que os concorrentes reproduzissem o comportamento avançado do modelo sem o custo de treinar um sistema de IA de ponta.
“Além de sua escala, esta campanha foi notável por sua natureza descarada”, escreveu a Anthropic. “O Alibaba está listado na Bolsa de Valores de Nova York, mantém operações comerciais nos Estados Unidos e é responsável perante investidores e reguladores dos EUA.”
A Anthropic afirmou que a campanha foi além das preocupações com propriedade intelectual, enquadrando a destilação de modelos em larga escala como uma questão de segurança nacional que poderia acelerar as capacidades militares e cibernéticas de IA da China, ao mesmo tempo em que reduziria a liderança tecnológica dos Estados Unidos.
A carta surge no momento em que Washington intensifica os esforços para proteger a liderança dos EUA em IA. No início deste mês, o presidente Donald Trump assinou uma ordem executiva expandindo as iniciativas de cibersegurança impulsionadas por IA, depois de adiar a medida por preocupações de que ela pudesse enfraquecer a posição competitiva dos Estados Unidos contra a China.
Leia também: Agente de IA apaga banco de dados de startup em 9 segundos
“Quando laboratórios da RPC destilam essas capacidades de modelos dos EUA, eles capturam o retorno dos investimentos americanos sem arcar com os custos ou riscos associados ao treinamento de modelos de IA de ponta”, escreveu a Anthropic. “Isso inverte a lógica econômica que sustenta a liderança americana em IA, transformando bilhões de dólares em pesquisa e desenvolvimento, capacidade computacional e outros investimentos dos EUA em um subsídio para nossos concorrentes.”
A Anthropic instou os legisladores a expandir o compartilhamento de inteligência entre desenvolvedores de IA de ponta e o governo dos EUA, esclarecer as regras antitruste para permitir que empresas de IA compartilhem informações sobre ataques de destilação, fortalecer os controles de exportação sobre chips avançados de IA e computação, fechar brechas que permitem que empresas chinesas acessem centros de dados no exterior e impor penalidades às empresas responsáveis pela extração de modelos em larga escala.
Um porta-voz da Anthropic recusou-se a comentar especificamente sobre a carta, mas disse ao Decrypt: “Acreditamos que combater a ameaça da destilação ilícita requer uma ação coordenada entre o governo e a indústria, e continuaremos a trabalhar com o Congresso e a administração para manter a liderança americana em IA.”
A carta também se baseia nas alegações da Anthropic, feitas em fevereiro, de que os desenvolvedores chineses de IA Deepseek, Moonshot AI e MiniMax geraram mais de 16 milhões de interações com o Claude usando cerca de 24.000 contas fraudulentas.
Essas alegações geraram críticas de observadores que argumentaram que as empresas de IA dependem de técnicas semelhantes ao treinar seus próprios sistemas. A Anthropic rebateu que a destilação convencional é um método legítimo para produzir modelos menores e mais baratos, enquanto a extração não autorizada de capacidades de modelos de ponta por meio de acesso fraudulento viola seus termos de serviço.
O debate mais amplo sobre a destilação tornou-se mais complicado nos últimos meses. Em abril, Elon Musk testemunhou em tribunal federal que a xAI havia usado “parcialmente” modelos da OpenAI durante o treinamento do Grok, ressaltando que a destilação é uma prática estabelecida na indústria — mesmo que as empresas contestem onde termina o treinamento legítimo de modelos e começa a extração não autorizada.
* Traduzido e editado com autorização do Decrypt.
Buscando uma carteira com alto ganho, mas sem o sobe e desce do mercado? A Renda Fixa Digital do MB oferece ativos com ganhos de até 18% ao ano, risco controlado e total segurança para seus investimentos. Conheça agora!
