Autoridades brasileiras passaram a monitorar com atenção o uso de ferramentas de inteligência artificial na plataforma X após surgirem denúncias envolvendo a produção de conteúdos falsos de natureza sexual.
O Governo Federal e o Ministério Público Federal (MPF) emitiram recomendações formais à empresa responsável pela rede social diante de indícios de que o Grok, assistente de IA integrado à plataforma, estaria sendo utilizado para criar deepfakes sexualizados a partir de imagens reais de mulheres, crianças e adolescentes.
A atuação ocorre de forma conjunta entre a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o MPF. O objetivo é investigar, conter e prevenir possíveis violações de direitos humanos, de proteção de dados pessoais e das relações de consumo associadas ao uso indevido da tecnologia.
As apurações tiveram como base reportagens publicadas pela imprensa e testes técnicos conduzidos pelas próprias instituições. Segundo os órgãos envolvidos, foi identificada a geração de imagens falsas com conteúdo erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade.
Em alguns casos, mulheres e crianças aparecem retratadas nuas ou em trajes íntimos, com o material circulando publicamente na plataforma.
Diante da gravidade das denúncias, as autoridades destacaram a necessidade de uma resposta imediata e coordenada. A iniciativa busca assegurar a proteção de dados pessoais, preservar direitos fundamentais e garantir atenção especial a grupos mais vulneráveis, como mulheres, crianças e adolescentes.
Entre as principais recomendações enviadas à empresa está a adoção urgente de barreiras técnicas que impeçam o Grok de gerar conteúdos visuais ou sonoros com pessoas reais em contextos sexualizados, sobretudo quando envolverem menores de idade ou adultos sem consentimento.
Também foi solicitado que a plataforma implemente, no prazo máximo de 30 dias, mecanismos eficazes para identificar, revisar e remover conteúdos irregulares já publicados.
Outras exigências incluem a suspensão imediata de contas responsáveis pela criação de materiais sexuais ou erotizados por meio de inteligência artificial, com o envio de relatórios mensais que comprovem as ações adotadas.
As autoridades também pedem a criação de um canal claro e acessível para que titulares de dados possam denunciar o uso indevido de suas imagens, áudios ou informações pessoais, além da elaboração de um relatório de impacto à proteção de dados, detalhando os riscos associados à geração de conteúdos sintéticos.
Os órgãos alertaram que o descumprimento das recomendações ou a adoção de medidas consideradas insuficientes pode resultar na aplicação de sanções administrativas e no ajuizamento de ações judiciais.
O caso reacende o debate sobre a responsabilidade das plataformas digitais no uso ético, seguro e transparente da inteligência artificial.
*Compartilhe este artigo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
