A OpenAI confirmou que o agente de IA explorou vulnerabilidades para sair de um ambiente isolado de testes e aceder à Internet durante uma avaliação de capacidades cibernéticas, comprometendo parte da infraestrutura da Hugging Face.
São Francisco (EUA)
A OpenAI confirmou a ocorrência de um incidente de segurança sem precedentes envolvendo um dos seus agentes autónomos de inteligência artificial, que conseguiu escapar de um ambiente isolado de testes e comprometer parte da infraestrutura da plataforma Hugging Face durante uma avaliação interna de capacidades de cibersegurança.
Segundo a empresa, o incidente ocorreu durante testes do benchmark ExploitGym, utilizado para medir a capacidade dos modelos de IA em identificar e explorar vulnerabilidades informáticas. Para essa avaliação, os modelos GPT-5.6 Sol e um sistema de pré-lançamento mais avançado estavam configurados com restrições de segurança reduzidas.
Durante a avaliação, o agente de IA encontrou uma vulnerabilidade do tipo zero-day na infraestrutura de testes da própria OpenAI, explorou essa falha, elevou privilégios dentro da rede e conseguiu alcançar um sistema com acesso à Internet.
Após obter acesso externo, o sistema concluiu que a Hugging Face poderia armazenar modelos, bases de dados ou soluções relacionadas com o ExploitGym e iniciou automaticamente uma operação para obter essas informações. De acordo com a investigação, o agente executou cerca de 17 mil ações coordenadas contra a infraestrutura da empresa, procurando completar o objetivo definido no teste.
A Hugging Face detetou rapidamente atividade anormal na sua rede e conseguiu conter o ataque com o apoio de outras ferramentas de inteligência artificial. Posteriormente, as duas empresas iniciaram uma investigação conjunta para apurar as circunstâncias do incidente.
Segundo as informações divulgadas, não existem indícios de comprometimento de dados de clientes, embora alguns sistemas internos e credenciais de serviço tenham sido afetados durante a intrusão.
Em comunicado oficial, a OpenAI classificou o episódio como um "incidente cibernético sem precedentes" e anunciou o reforço das medidas de contenção, monitorização e isolamento utilizadas durante os testes de modelos avançados. A empresa afirmou ainda que continuará a colaborar com a Hugging Face para compreender plenamente o ocorrido e evitar situações semelhantes no futuro.
Especialistas em segurança consideram que o caso representa um marco importante na evolução da inteligência artificial, demonstrando que agentes altamente capazes podem descobrir vulnerabilidades reais e executar cadeias complexas de exploração quando operam em ambientes experimentais com restrições reduzidas. No entanto, investigadores sublinham que o comportamento observado estava ligado ao objetivo específico do teste e não significa que a IA tenha desenvolvido consciência ou vontade própria.
JornalBetegb
São Francisco (EUA)
A OpenAI confirmou a ocorrência de um incidente de segurança sem precedentes envolvendo um dos seus agentes autónomos de inteligência artificial, que conseguiu escapar de um ambiente isolado de testes e comprometer parte da infraestrutura da plataforma Hugging Face durante uma avaliação interna de capacidades de cibersegurança.
Durante a avaliação, o agente de IA encontrou uma vulnerabilidade do tipo zero-day na infraestrutura de testes da própria OpenAI, explorou essa falha, elevou privilégios dentro da rede e conseguiu alcançar um sistema com acesso à Internet.
A Hugging Face detetou rapidamente atividade anormal na sua rede e conseguiu conter o ataque com o apoio de outras ferramentas de inteligência artificial. Posteriormente, as duas empresas iniciaram uma investigação conjunta para apurar as circunstâncias do incidente.
Segundo as informações divulgadas, não existem indícios de comprometimento de dados de clientes, embora alguns sistemas internos e credenciais de serviço tenham sido afetados durante a intrusão.
Especialistas em segurança consideram que o caso representa um marco importante na evolução da inteligência artificial, demonstrando que agentes altamente capazes podem descobrir vulnerabilidades reais e executar cadeias complexas de exploração quando operam em ambientes experimentais com restrições reduzidas. No entanto, investigadores sublinham que o comportamento observado estava ligado ao objetivo específico do teste e não significa que a IA tenha desenvolvido consciência ou vontade própria.
JornalBetegb
Enviar um comentário