Como parte de seu trabalho, os pesquisadores explicam que também inseriram na plataforma, que hospeda modelos de código aberto, uma interface de IA falsa que oferecia aos usuários a possibilidade de gerar imagens para testar suas solicitações.
Das 1.081 solicitações feitas em uma semana, quase três quartos (73%) eram “de natureza sexual”, detalha o relatório, e “praticamente todas envolviam mulheres sendo despidas”, especificou Bouchaud.
Entre os pedidos de conteúdo sexual, 6,7% foram direcionados a menores de idade, destaca também a ONG.
Em resposta à AFP, a Hugging Face afirmou que “levou este relatório a sério” e que “tomará medidas de acordo com suas práticas de moderação vigentes, caso tenham sido identificadas falhas”.
A plataforma, no entanto, denuncia “alegações imprecisas sobre a ausência sistêmica de moderação” de conteúdo e “metodologias que geram muitos falsos positivos e apresentam uma imagem distorcida do ecossistema como um todo”.
No início de janeiro, uma análise da AI Forensics de mais de 20 mil imagens geradas na rede social X pelo Grok, o chatbot desenvolvido pela empresa americana xAI, revelou que mais da metade retratava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentemente menores de idade.
