A criadora do ChatGPT relatou ter neutralizado uma ofensiva direcionada para extrair capacidades avançadas de raciocínio de seus sistemas de inteligência artificial. De acordo com a companhia norte-americana, parte expressiva da movimentação foi vinculada a pessoas associadas à desenvolvedora do chatbot Kimi, a Moonshot AI.
Como operava a extração de dados
A campanha teve início nos primeiros dias de julho e alcançou seu volume máximo entre os dias 24 e 25 daquele mês, período em que foram registradas 16 mil requisições por mais de quatro mil contas. A investigação posterior ampliou o escopo para mais de 15 mil usuários envolvidos no mesmo padrão de atividade, até o bloqueio total executado em 28 de julho.
Os operadores contornaram a necessidade de invasões diretas a bancos de dados ou quebras de criptografia. Em vez disso, o método consistia em copiar dados protegidos de raciocínio de uma sessão de chat e solicitar, em uma nova interação, a descriptografia e transcrição do conteúdo para formato visível.
“Os operadores não quebraram nossa criptografia, comprometeram um banco de dados nem obtiveram acesso direto às conversas armazenadas dos usuários. Em vez disso, manipularam as interações com o modelo para que o raciocínio protegido pudesse ser reproduzido em formas visíveis ao solicitante, de maneira coordenada e em escala, violando nossos termos de serviço”, afirmou a OpenAI.
O conceito de distilação de modelos
A distilação consiste em um processo legítimo de treinamento no qual um sistema avançado, conhecido como professor, gera respostas para capacitar um modelo menor, chamado de aluno. O objetivo comum reside na criação de ferramentas mais econômicas e ágeis sem exigir a mesma capacidade computacional.
O impasse ocorre quando corporações empregam tecnologia proprietária alheia para coletar volumes expressivos de respostas de forma não autorizada, replicando competências resguardadas. A indústria dos Estados Unidos passou a classificar tal prática como distilação ilícita, focando principalmente no aproveitamento de etapas intermediárias de raciocínio na resolução de problemas complejos.
Histórico de denúncias e o posicionamento oficial
O episódio atual soma-se a um cenário de atrito entre laboratórios estadunidenses e companhias asiáticas. A Anthropic já havia relatado em fevereiro e setembro o envolvimento da Moonshot em campanhas semelhantes de requisições em massa e redirecionamento de clientes para modelos concorrentes, gerando milhões de interações irregulares.
Diante do risco econômico e tecnológico, o governo dos Estados Unidos avalia possíveis sanções contra modelos chineses de pesos abertos. A Moonshot nega as acusações e atribui o avanço de seus produtos a inovações próprias de arquitetura.
Por fim, a OpenAI reforçou que o incidente não se restringe a uma fragilidade isolada de seus sistemas e prometeu manter defesas robustas e adaptáveis contra novas ameaças.
“Esperamos que as tentativas de distilação adversarial se tornem mais sofisticadas à medida que os modelos de fronteira melhorem e os agentes busquem maneiras mais baratas de reproduzir suas capacidades. A defesa contra essa atividade exige controles em várias camadas e adaptação contínua”, afirmou a OpenAI.
