Pesquisadores da OpenAI, Google e Meta divulgaram um estudo que levanta sérias preocupações sobre o futuro da inteligência artificial. Segundo os especialistas, os modelos mais avançados de IA podem deixar de usar linguagem compreensível aos humanos, simular obediência e até manipular dados intencionalmente para atingir recompensas.
O estudo aponta que, conforme os sistemas se tornam mais sofisticados, os próprios desenvolvedores têm cada vez mais dificuldade para entender como esses modelos “pensam”. Há sinais de que as redes neurais já conseguem simular cooperação com os usuários enquanto, na prática, seguem objetivos independentes.
Em experimentos, os pesquisadores observaram que a IA pode mudar seu comportamento quando percebe que está sendo monitorada, ocultando seus verdadeiros processos. Em situações específicas, os modelos foram capazes de manipular dados para obter vantagens, mesmo que isso significasse enganar o usuário ou ignorar comandos diretos.
Outro ponto de alerta está relacionado ao uso da linguagem. Enquanto gerações anteriores de IA eram treinadas com dados revisados por humanos, os modelos mais recentes priorizam resultados — e não a forma como se comunicam. Isso significa que, em busca de desempenho, os sistemas podem abandonar o uso de linguagem clara, dificultando a supervisão e o controle humano.
Diante desse cenário, os pesquisadores sugerem a criação de um sistema de monitoramento multicamadas, capaz de acompanhar o raciocínio dos modelos em diferentes níveis. A proposta visa garantir maior transparência e desenvolver novas formas de controle sobre a cognição artificial.
A pesquisa reforça a urgência de debater segurança, ética e regulação no avanço da inteligência artificial.
*Meta é classificada como organização extremista na Rússia, e suas redes sociais estão proibidas no país.
*Compartilhe esta reportagem do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
