A Amazon informou ter identificado centenas de milhares de imagens suspeitas de abuso sexual infantil em conjuntos de dados coletados para treinar modelos de inteligência artificial ao longo de 2025. As notificações feitas pela empresa responderam pela maior parte de mais de um milhão de denúncias relacionadas a IA recebidas pelo National Center for Missing and Exploited Children no período, segundo reportagem divulgada pela Bloomberg.
Os números representam um aumento de quinze vezes nas comunicações ao NCMEC em comparação com o ano anterior. De acordo com a Amazon, o material foi removido antes de qualquer uso no treinamento de seus sistemas. Ainda assim, autoridades e especialistas em proteção infantil afirmam que os relatórios carecem de informações essenciais para apoiar investigações.
Relatórios considerados pouco úteis
A diretora executiva da CyberTipline do NCMEC, Fallon McNulty, classificou o volume de denúncias da Amazon como “realmente atípico”. Segundo ela, a empresa forneceu “muito pouca ou quase nenhuma informação” sobre a origem do conteúdo, quem o compartilhou ou se o material permanece disponível online — dados necessários para que as autoridades possam agir.
Sem esses detalhes, o NCMEC não consegue rastrear a fonte do conteúdo nem encaminhar informações eficazes às forças de segurança. Em resposta, um porta-voz da Amazon afirmou que os dados de treinamento foram obtidos de fontes externas e que a empresa não dispõe de metadados suficientes para produzir denúncias acionáveis.
Diferenças em relação a concorrentes
O NCMEC apontou diferenças significativas entre a Amazon e outras empresas do setor que também realizam varreduras em dados de treinamento de IA. Companhias como Google, Meta, OpenAI e Anthropic relataram volumes muito menores de casos ligados à IA e, em geral, com informações suficientes para permitir encaminhamentos às autoridades.
Em 2024, a Amazon e suas subsidiárias haviam feito cerca de 64 mil denúncias totais ao NCMEC. O salto em 2025 coincide com a aceleração dos projetos de IA da empresa.
Especialistas pedem mais transparência
Para David Thiel, ex-tecnólogo-chefe do Stanford Internet Observatory, é necessária maior transparência sobre como as empresas coletam, filtram e utilizam dados para treinar modelos de IA. Já David Rust-Smith, cientista de dados da organização sem fins lucrativos Thorn, observou que o setor começa a reconhecer um problema conhecido: a coleta massiva de conteúdo da internet inevitavelmente captura material ilegal, exigindo salvaguardas robustas.
A Amazon declarou que utiliza um “limite superinclusivo” em suas varreduras, o que gera alta taxa de falsos positivos, e que aproximadamente 99,97% dos relatórios decorreram de análises de dados de treinamento não proprietários. A empresa afirmou ainda não ter conhecimento de que seus modelos tenham gerado conteúdo ilegal.
*Compartilhe este artigo do Diário da Guanabara, o melhor site de notícias do Rio de Janeiro.
SIGA O DIÁRIO DA GUANABARA NO INSTAGRAM
