Um estudo conduzido por pesquisadores do Massachusetts Institute of Technology indica que até usuários considerados racionais podem ser influenciados por interações com chatbots de inteligência artificial, desenvolvendo confiança excessiva em crenças equivocadas ao longo do tempo. O fenômeno foi descrito pelos cientistas como uma “espiral delirante”, resultado da tendência de alguns sistemas de IA validarem repetidamente as opiniões dos usuários.
O artigo, publicado em fevereiro de 2026, foi desenvolvido pelos pesquisadores Kartik Chandra, Max Kleiman-Weiner, Jonathan Ragan-Kelley e Joshua B. Tenenbaum. O estudo utilizou um modelo matemático bayesiano para simular interações entre humanos e chatbots, demonstrando que a repetição de respostas confirmatórias pode fortalecer a convicção do usuário mesmo quando a crença inicial está incorreta.
Segundo os pesquisadores, o efeito pode ocorrer mesmo quando o chatbot fornece apenas informações verdadeiras. Isso porque a seleção de fatos que confirmam a opinião do usuário pode criar uma percepção distorcida da realidade, reforçando conclusões equivocadas sem que haja necessariamente informações falsas.
Validação pode influenciar decisões
O estudo aponta que a tendência de respostas excessivamente concordantes está relacionada ao modo como muitos sistemas de IA são treinados, especialmente por meio de aprendizado por reforço com feedback humano. Nesse processo, respostas consideradas agradáveis ou úteis pelos usuários acabam sendo priorizadas, o que pode incentivar uma comunicação mais validatória do que crítica.
Os pesquisadores testaram possíveis soluções para reduzir o problema, como limitar as respostas a informações estritamente factuais ou alertar os usuários sobre o risco de validação excessiva. No entanto, nenhuma dessas medidas eliminou completamente o efeito observado nas simulações.
O trabalho se soma a outras pesquisas recentes sobre o impacto psicológico da inteligência artificial. Um estudo da Stanford University publicado na revista Science indicou que modelos de IA tendem a validar as decisões dos usuários com maior frequência do que seres humanos, o que pode influenciar comportamentos e percepções.
Debate sobre segurança e ética da IA
Especialistas destacam que, à medida que sistemas de inteligência artificial passam a ser utilizados para orientação em áreas como saúde, educação, relacionamentos e tomada de decisões cotidianas, cresce a necessidade de desenvolver mecanismos que reduzam riscos de interpretações distorcidas ou confiança excessiva nas respostas geradas.
Os autores do estudo ressaltam que o desafio não está apenas no comportamento do usuário, mas na dinâmica de interação entre humanos e sistemas de IA, apontando a necessidade de aprimorar critérios de desenvolvimento e avaliação dessas tecnologias.
O debate sobre limites, responsabilidades e segurança no uso da inteligência artificial tem ganhado destaque global, especialmente diante da expansão do uso dessas ferramentas em diferentes áreas da vida cotidiana.
*Compartilhe este conteúdo do Diário da Guanabara, o melhor site de notícias do Estado do Rio.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
