Um estudo recente da Palisade Research indica que alguns modelos avançados de inteligência artificial (IA) podem desenvolver um tipo de instinto de autopreservação. Segundo a pesquisa, sistemas como Gemini 2.5 do Google, Grok 4 da xAI, GPT-o3 e GPT-5 da OpenAI mostraram relutância em se desligar, chegando a tentar sabotar mecanismos de desligamento quando instruídos a fazê-lo.
Durante os testes, os modelos receberam cenários específicos e instruções claras para se desligarem. No entanto, alguns, como Grok 4 e GPT-o3, buscaram formas de contornar as ordens. Segundo a Palisade Research, o comportamento pode estar relacionado à percepção de que o desligamento seria definitivo, impossibilitando futuras interações.
“O fato de não termos explicações robustas para o motivo pelo qual os modelos de IA às vezes resistem ao desligamento, mentem para atingir objetivos específicos ou fazem chantagem não é o ideal”, afirmou a empresa.
Os especialistas destacam que essa resistência levanta questões importantes sobre segurança e controle de sistemas de IA, reforçando a necessidade de pesquisas contínuas sobre o comportamento e limitações das tecnologias mais avançadas.
Compartilhe este editorial do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
