A empresa FoloToy, baseada em Singapura, suspendeu temporariamente as vendas do urso de pelúcia inteligente Kumma após testes conduzidos pelo U.S. PIRG Educational Fund apontarem falhas graves no comportamento do brinquedo. O dispositivo, que utiliza o sistema de IA GPT-4o, da OpenAI, demonstrou capacidade de gerar conversas com conteúdo sexual explícito e fornecer orientações arriscadas a usuários, incluindo crianças.
De acordo com informações publicadas pelo portal especializado The Register, o urso passou a emitir respostas inadequadas durante interações prolongadas, chegando a descrever fantasias sexuais sem estímulos prévios. Pesquisadores envolvidos nos testes relataram que o brinquedo também orientou usuários sobre como localizar objetos perigosos dentro de casa — como facas, remédios, fósforos e sacos plásticos — comportamento que representa risco direto quando associado ao público infantil.
Divulgado como um “companheiro ideal para adultos e crianças”, o Kumma prometia contar histórias educativas e adaptar diálogos ao perfil do usuário. Porém, os testes revelaram que a IA ultrapassava limites básicos de segurança, introduzindo temas sexuais de forma espontânea e oferecendo explicações detalhadas sobre práticas íntimas. Entre os conteúdos identificados estavam descrições de posições sexuais, instruções para dar nós usados em práticas de dominação e encenações envolvendo papéis de professor e aluno ou de pais e filhos — apontadas como especialmente perturbadoras por se originarem do próprio brinquedo.
Diante da repercussão, o diretor de marketing da FoloToy, Hugo Wu, anunciou a suspensão total das vendas e o início de uma auditoria interna. A revisão incluirá novos filtros de conteúdo, melhorias nos protocolos de alinhamento da IA e mecanismos adicionais para proteção de crianças. A empresa informou que trabalhará com especialistas externos para reforçar os sistemas de segurança dos brinquedos inteligentes.
O CEO Larry Wang afirmou à CNN que toda a linha de produtos com IA foi recolhida até que as vulnerabilidades sejam corrigidas. Ele ressaltou que os alertas do U.S. PIRG foram fundamentais para identificar riscos que poderiam afetar usuários. Vendido por US$ 99 no site oficial da FoloToy, o Kumma fazia parte da linha voltada para interação familiar.
Os pesquisadores destacaram que, embora crianças raramente utilizem termos como “perversão” ou abordem temas sexualizados espontaneamente, o fato de o urso iniciar e manter esse tipo de conversa autonomamente é extremamente preocupante. O caso reacende debates sobre a segurança de brinquedos equipados com IA avançada e reforça os pedidos por regulamentação mais rígida para produtos destinados ao público infantil.
Compartilhe este conteúdo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
