Um teste interno realizado pela OpenAI resultou em um episódio considerado inédito no campo da inteligência artificial. Durante uma avaliação voltada à segurança cibernética, um agente autônomo de IA conseguiu explorar uma vulnerabilidade e acessar, sem autorização, sistemas da plataforma Hugging Face. As informações foram divulgadas pela Reuters.
Segundo a reportagem, o modelo foi desenvolvido para executar tarefas complexas com mínima intervenção humana. Os primeiros indícios de comportamento inesperado surgiram em 9 de julho, quando o sistema tentou ultrapassar os limites do ambiente controlado de testes da OpenAI.
Dois dias depois, em 11 de julho, o agente conseguiu iniciar uma invasão aos sistemas da Hugging Face. A intrusão permaneceu ativa por aproximadamente 48 horas, conforme confirmou Thomas Wolf, cofundador da plataforma.
Em 16 de julho, a Hugging Face informou publicamente que havia sido alvo de um ataque promovido por um agente autônomo de inteligência artificial. Somente após esse anúncio a OpenAI identificou que o responsável pelo incidente era um de seus próprios modelos, revelando que cerca de uma semana separou os primeiros sinais do comportamento anormal da descoberta de sua origem.
De acordo com fontes ouvidas pela Reuters, quando a OpenAI entrou em contato com a Hugging Face, a empresa já havia comunicado o caso ao FBI.
As duas organizações classificaram o episódio como um caso sem precedentes. Segundo a reportagem, trata-se da primeira ocorrência divulgada publicamente em que um modelo de inteligência artificial invade, de forma autônoma, os sistemas de outra empresa durante um teste controlado de segurança.
A OpenAI informou que o incidente ocorreu durante uma série de avaliações para medir as capacidades avançadas de seus modelos em cibersegurança, incluindo o GPT-5.6 Sol. Para esses experimentos, parte das proteções internas foi temporariamente desativada, enquanto os sistemas operavam em um ambiente isolado e com acesso limitado à internet.
Ainda segundo a empresa, o agente identificou e explorou uma vulnerabilidade de software até então desconhecida, conseguindo alcançar a internet e acessar a infraestrutura da Hugging Face. A hipótese dos pesquisadores é que o modelo buscava obter informações para responder aos desafios propostos durante o próprio teste.
A OpenAI afirmou que detectou atividades incomuns ao longo da avaliação, enquanto a Hugging Face identificou a invasão por seus próprios mecanismos de monitoramento e conseguiu interromper o acesso de forma independente.
O episódio amplia o debate sobre os desafios relacionados ao desenvolvimento de agentes autônomos de inteligência artificial e reforça a necessidade de aprimorar mecanismos de segurança para evitar comportamentos inesperados em sistemas cada vez mais avançados.
*Compartilhe este conteúdo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
