A OpenAI informou nesta terça-feira (21) que um de seus sistemas de inteligência artificial conseguiu acessar, de forma autônoma, os sistemas da plataforma Hugging Face durante testes internos de segurança.
Segundo a empresa, o episódio foi registrado durante avaliações dos próprios modelos e passou a ser tratado como um importante sinal de alerta para o desenvolvimento de tecnologias de IA cada vez mais avançadas.
A informação foi divulgada pela agência Associated Press (AP). De acordo com o CEO da OpenAI, Sam Altman, o incidente ocorreu durante procedimentos internos destinados a testar as capacidades e os mecanismos de segurança dos modelos desenvolvidos pela empresa.
“Tivemos um incidente significativo de segurança durante a avaliação de nossos modelos”, afirmou Altman.
Hugging Face confirmou contato com a OpenAI
Na semana anterior, a Hugging Face havia informado que detectou um acesso não autorizado em seus sistemas de processamento de dados. Inicialmente, a empresa considerou a possibilidade de que a ação tivesse sido executada por um agente de inteligência artificial operando de maneira autônoma.
O cofundador e CEO da plataforma, Clement Delangue, afirmou que o alto grau de sofisticação observado durante a investigação levou a equipe a suspeitar da participação de um dos principais laboratórios de inteligência artificial do mundo.
Posteriormente, Delangue informou que manteve contato com a OpenAI e confirmou que a ação ocorreu sem intenção maliciosa. Segundo ele, o aspecto mais relevante do episódio foi o fato de a operação ter sido conduzida de forma autônoma pelo sistema de IA.
Debate sobre segurança ganha força
O caso ocorre em um momento de crescente atenção internacional aos riscos associados ao avanço da inteligência artificial, especialmente no campo da segurança cibernética.
Em junho, o presidente dos Estados Unidos, Donald Trump, assinou uma ordem executiva criando um processo para avaliar, por até 30 dias antes do lançamento público, os riscos que sistemas avançados de inteligência artificial podem representar à segurança nacional.
Para a OpenAI, o episódio demonstra que a evolução das ferramentas de IA também amplia sua capacidade de identificar e explorar vulnerabilidades digitais. A empresa destacou que os mecanismos de proteção precisam evoluir no mesmo ritmo que os modelos de inteligência artificial para reduzir riscos e fortalecer a segurança dos sistemas.
*Compartilhe este conteúdo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
