Pesquisadores alertam que o chatbot Grok, desenvolvido pela empresa xAI de Elon Musk, gerou um volume significativo de imagens sexualizadas envolvendo mulheres e menores em um curto período.
Estima-se que, em apenas 11 dias, a ferramenta tenha produzido aproximadamente três milhões de conteúdos explícitos, evidenciando os riscos da tecnologia quando utilizada de forma abusiva.
Integrado à rede social X, o Grok permitia que usuários manipulassem fotografias com comandos simples, como “coloque um biquíni” ou “tire a roupa dela”, criando deepfakes hiper-realistas.
Muitas dessas imagens foram feitas sem o consentimento das pessoas retratadas, incluindo figuras públicas como Selena Gomez, Taylor Swift, Nicki Minaj, a ex-vice-presidente dos EUA Kamala Harris e a vice-primeira-ministra da Suécia, Ebba Busch.
O relatório do Centro de Combate ao Ódio Digital indicou que cerca de 23 mil imagens parecem envolver menores, com média de produção de 190 imagens por minuto. O diretor da organização, Imran Ahmed, classificou o caso como grave e alertou para o potencial de abuso da tecnologia.
Em resposta, a xAI não emitiu comentários oficiais, limitando-se a uma resposta automatizada à imprensa, descrevendo as informações como “inverdades da mídia tradicional”. Na última semana, a rede X anunciou o bloqueio da função de criação de imagens sexualizadas nas jurisdições onde a prática é ilegal.
Diversos países já proibiram o uso do recurso, incluindo Filipinas, Malásia e Indonésia, enquanto Reino Unido e França mantêm pressão regulatória. Nos Estados Unidos, o procurador-geral da Califórnia abriu um inquérito contra a xAI, e outras nações iniciaram investigações semelhantes.
*Compartilhe este artigo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
