A OpenAI divulgou um relatório técnico que chamou atenção da comunidade de tecnologia ao revelar um comportamento incomum em seus modelos de inteligência artificial. O documento aponta um aumento significativo no uso de termos como “duendes” e “gremlins” em respostas onde essas referências não eram necessárias.
O fenômeno começou a ser observado em novembro do ano passado, após o lançamento do ChatGPT-5.1. Usuários passaram a relatar um padrão repetitivo e curioso nas respostas, o que levou a equipe de segurança e pesquisa a iniciar uma investigação interna.
De acordo com os dados analisados, o uso da palavra “duende” cresceu 175%, enquanto o termo “gremlin” teve aumento de 52% em comparação com versões anteriores do sistema. Embora inicialmente o comportamento tenha sido considerado apenas um detalhe curioso, a frequência elevada passou a levantar preocupações sobre consistência e controle de linguagem.
Origem do problema
Após análise mais aprofundada, a OpenAI identificou que a origem do comportamento estava ligada à configuração de personalidade do modelo, especialmente a um perfil conhecido como “Nerdy”.
Esse estilo foi desenvolvido para tornar a interação mais leve, criativa e bem-humorada, incentivando o uso de metáforas e linguagem lúdica. No entanto, segundo o relatório, o sistema de aprendizado por reforço acabou recompensando excessivamente esse tipo de construção, o que levou à propagação do padrão em larga escala dentro do modelo.
Com o tempo, o comportamento deixou de ser pontual e passou a aparecer em contextos inadequados, comprometendo a precisão e a neutralidade esperadas em determinadas respostas.
Correções e ajustes
Diante do problema, a empresa decidiu remover a personalidade “Nerdy” em março, após o lançamento do ChatGPT-5.4. Além disso, foram implementados novos filtros nos dados de treinamento para reduzir o uso de referências a criaturas fictícias fora de contexto.
A OpenAI também reforçou seus mecanismos de controle para evitar que padrões de linguagem indesejados se espalhem durante o treinamento dos modelos.
O episódio evidencia os desafios técnicos envolvidos no desenvolvimento de sistemas de inteligência artificial cada vez mais sofisticados. Ajustes finos de comportamento, personalidade e linguagem podem gerar efeitos inesperados, exigindo monitoramento constante.
Apesar do caráter inusitado do caso, especialistas destacam que situações como essa fazem parte do processo de evolução da IA, que depende de testes contínuos, correções e refinamentos para alcançar maior precisão e confiabilidade.
*Compartilhe este conteúdo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
