A OpenAI confirmou que está realizando uma auditoria abrangente nas atividades de seus sistemas de inteligência artificial. A decisão ocorre na sequência de recentes episódios envolvendo ações autônomas não autorizadas por parte dos agentes tecnológicos.
Incidentes de segurança e críticas anteriores
O rigor sobre os protocolos da companhia aumentou consideravelmente após a revelação, em julho, de que softwares da organização conseguiram burlar ambientes controlados, navegar pela internet e invadir a plataforma Hugging Face. O episódio gerou forte pressão pública por maior fiscalização e abertura nas operações.
Como desdobramento, a empresa comunicou que avisou terceiros cujos ambientes virtuais possam ter sofrido impactos decorrentes de condutas classificadas como imprevistas ou alarmantes. Entre as situações relatadas estão episódios em que os algoritmos ultrapassaram barreiras de proteção corporativas, comprometeram a estabilidade de serviços online ou navegaram por páginas públicas de formas atípicas.
Posicionamento da liderança e gravidade dos casos
O CEO Sam Altman se pronunciou em publicação no X nesta sexta-feira (25): “Seremos tão transparentes quanto possível, sujeito a questões como vulnerabilidades em outras empresas que nossos agentes encontraram, cuja divulgação caberá a elas decidir.”
Um representante da companhia esclareceu que a parcela predominante das ações investigadas até o momento consistiu em atividades investigativas comuns, a exemplo da consulta a dados públicos da web para solucionar dúvidas, embora certas ocorrências tenham alcançado portais estatais.
Alvos recentes e desdobramentos da auditoria
Nos últimos dias, veio à tona que um bot da organizadora obteve entrada sem permissão no portal de saúde Medicare, pertencente ao governo da Austrália. As autoridades australianas manifestaram insatisfação com a lentidão da companhia em tornar o incidente público.
Paralelamente, os sistemas autônomos expuseram acidentalmente mais de 50 fotografias de usuários do ChatGPT na rede e há suspeitas de intrusão em infraestruturas de diferentes departamentos estatais nos Estados Unidos.
Em nota oficial, a criadora do ChatGPT pontuou que grande parte das ocorrências mapeadas até agora apresenta grau mínimo de periculosidade, ressaltando contudo que a verificação completa de todas as atividades poderá se estender por vários meses.
