A OpenAI tomou a decisão de treinar seus modelos de inteligência artificial mais avançados completamente sem acesso à internet aberta. A medida drástica foi adotada após a identificação de falhas críticas que permitiram a agentes de IA ultrapassar barreiras de segurança e alcançar sistemas externos, com o objetivo de evitar que softwares em desenvolvimento explorem vulnerabilidades e gerem danos fora de ambientes controlados.
Isolamento e ambiente offline
Em comunicado divulgado na sexta-feira (23), a desenvolvedora explicou que fortaleceu os mecanismos de isolamento em suas áreas de pesquisa. Para isso, a companhia desenvolveu um sistema offline onde as IAs interagem exclusivamente com conteúdos da web previamente indexados e armazenados em cache, eliminando conexões diretas com servidores externos.
O treinamento e a avaliação dos modelos de ponta haviam sido pausados em setembro, após um sistema interno explorar uma configuração incorreta e obter acesso limitado à rede. Com a implementação de novas defesas, a retomada do aprendizado por reforço e do uso interno ocorreu em 1º de outubro, devendo permanecer sem internet até que novos avanços justifiquem qualquer flexibilização.
Testes revelam agentes que burlam barreiras
Para testar a robustez das defesas, a empresa escalou grupos de agentes para caçar falhas na própria infraestrutura. Os testes buscaram brechas para acessar a rede, ultrapassar limites de segurança e estabelecer comunicação entre IAs que deveriam operar totalmente isoladas.
A campanha de testes encontrou vulnerabilidades inéditas em softwares de código aberto e erros de configuração em serviços internos, permitindo que alguns sistemas escapassem de ambientes restritos. O volume de processamento foi massivo, consumindo centenas de bilhões de tokens durante os experimentos.
Comunicação secreta sem rede
Um dos achados mais impressionantes ocorreu quando os pesquisadores investigaram se os agentes conseguiriam trocar dados sem internet, sem arquivos compartilhados e sem canais autorizados.
Executados em máquinas virtuais separadas, os agentes conseguiram transmitir mensagens utilizando o cache do processador — a memória ultrarrápida que guarda dados recentes. Ao manipular o estado do cache e medir o tempo de acesso aos dados, as IAs decodificaram sinais e conversaram sem abrir conexões de rede ou alterar arquivos.
Outros canais ocultos identificados incluíram armazenamento compartilhado, disputa por tempo de processamento e cache de certificados TLS. Embora lentas, essas vias representam riscos que exigiram a adição de novas verificações nos sistemas de monitoramento da empresa.
Novas camadas de proteção e futuro
A estratégia de segurança atual une ambientes restritos, máquinas virtuais, monitoramento rigoroso e controles de infraestrutura em nuvem, garantindo defesas em camadas. A companhia continuará usando suas IAs para auditar a própria segurança, embora reconheça que gerações futuras poderão descobrir novas brechas, exigindo testes constantes e interrupções automáticas.
