-
- Author, Kristina Völk
- Role, BBC News
- Author, Kevin Nguyen
- Role, BBC Verify
Uma investigação da BBC revelou que uma rede internacional de spammers — usuários que disseminam mensagens falsas em massa — usa o Facebook para publicar imagens falsas do Holocausto criadas por inteligência artificial.
Especialistas chamam esse tipo de material de AI slop (algo como “IA desleixada”, em tradução livre), expressão usada para definir conteúdo automatizado de baixa qualidade.
As entidades criticaram a Meta, dona do Facebook, que, segundo elas, permite transformar o massacre em um “jogo emocional”.
Nos últimos meses, porém, spammers divulgaram imagens falsas que alegam mostrar o interior do campo de concentração, como a de uma prisioneira tocando violino ou de amantes junto às cercas. As publicações tiveram dezenas de milhares de curtidas e compartilhamentos.
“Temos aqui alguém inventando histórias para um tipo de jogo emocional que acontece nas redes sociais”, diz Pawel Sawicki, porta-voz do Memorial de Auschwitz, na Polônia.
“Isto não é um jogo. É o mundo real, com sofrimento real e pessoas reais que queremos e precisamos lembrar.”
A BBC rastreou parte dessas imagens até as contas de uma rede de criadores de conteúdo no Paquistão, que colaboram entre si para lucrar com o Facebook.
Eles exploram o programa de monetização de conteúdo (CM) da Meta, um sistema “só para convidados” que paga por publicações e visualizações com alto engajamento.
Uma dessas contas, em nome de Abdul Mughees, que se apresenta como morador do Paquistão, publicou capturas de tela em que diz ter ganhado US$ 20 mil (cerca de R$ 104 mil) com esquemas de monetização em redes sociais, incluindo o da Meta. Em outra postagem, afirma ter acumulado mais de 1,2 bilhão de visualizações em quatro meses.
A BBC não conseguiu verificar de forma independente os ganhos de nenhum criador.
Entre as postagens de Abdul Mughees no Facebook estão fotos geradas por inteligência artificial de vítimas fictícias do Holocausto e relatos falsos, como o de uma criança escondida sob o assoalho ou de um bebê deixado nos trilhos de um campo de concentração.
A análise da BBC sobre essa conta e dezenas de outras semelhantes indica que elas publicam quase só AI slop.
O termo se refere a imagens e textos de baixa qualidade gerados por inteligência artificial, produzidos em grande volume e espalhados nas redes sociais.
Auschwitz virou tema frequente em páginas e grupos de história. Algumas, com nomes como “Timeless Tales” (Contos atemporais, em tradução livre) e “History Haven” (Refúgio da história, em tradução livre), chegavam a publicar mais de 50 vezes por dia.
Em junho, o Museu de Auschwitz alertou que contas como essas roubavam suas postagens, processavam o material em modelos de inteligência artificial e muitas vezes distorciam fatos históricos ou criavam narrativas e vítimas.
Em nota no Facebook, afirmou que essas imagens representam uma “distorção perigosa” que “desrespeita as vítimas e assedia sua memória”.
Crédito, Reprodução/Facebook
Sawicki diz que o “tsunami” de imagens falsas enfraquece a missão do Memorial de Auschwitz de promover a conscientização sobre o Holocausto.
“Já começamos a receber comentários em nossas postagens no Facebook dizendo ‘isso é uma foto gerada por inteligência artificial'”, afirmou.
Sobreviventes e famílias também se dizem abalados com a proliferação de AI slop sobre o Holocausto, segundo uma organização dedicada à educação e à pesquisa do tema.
“Eles não entendem bem o que estão vendo”, diz Robert Williams, da Aliança Internacional para a Memória do Holocausto.
De acordo com Williams, sobreviventes sentem “tristeza por isso ser permitido”, apesar de investimentos de governos e fundações em campanhas de conscientização.
“Eles sentem que seus esforços não foram suficientes”, afirma. “É triste pensar nisso, porque em breve perderemos os últimos sobreviventes.”
A Meta não incentiva deliberadamente a publicação de histórias falsas, incluindo sobre o Holocausto, mas seu sistema recompensa conteúdos com alto engajamento. A BBC também identificou contas de AI slop na Índia, no Vietnã, na Tailândia e na Nigéria.
Para entender por que essas redes produzem em massa certos tipos de conteúdo, a BBC ouviu Fazal Rahman, paquistanês inscrito em vários programas de monetização em redes sociais. Ele disse que essa atividade se tornou sua única fonte de renda.
Rahman afirmou não criar imagens do Holocausto e que nem conhecia o termo quando foi questionado, mas participa dos mesmos grupos do Facebook que os responsáveis por esse material.
Segundo ele, uma página do Facebook com 300 mil seguidores pode render US$ 1.000 por mês (cerca de R$ 5.200) se tiver “conteúdo premium” voltado a públicos de maior valor no Reino Unido, nos EUA e na Europa. Ele calcula que as visualizações desses países valem oito vezes mais do que as da Ásia.
Rahman afirmou que história é um tema confiável para gerar tráfego online.
Outros criadores confirmam. A BBC encontrou vídeos tutoriais que ensinam, passo a passo, como usar modelos de inteligência artificial para produzir em série imagens e textos históricos falsos.
Em um dos vídeos, o criador pediu a um chatbot de IA que listasse eventos históricos que poderiam servir de base para conteúdos. O Holocausto apareceu entre as respostas.
Alguns também dão dicas de como enganar o público, fazendo com que suas páginas imitem outras entidades para atrair seguidores e se tornarem elegíveis ao programa de monetização da Meta.
O Facebook tem um recurso de transparência que permite rastrear nomes anteriores de páginas. Com ele, a BBC identificou várias páginas que divulgaram AI slop sobre o Holocausto e antes se passavam por entidades como departamentos de bombeiros nos EUA, empresas comerciais e influenciadores americanos — todos sem consentimento.
Segundo postagens públicas de criadores, essas páginas também podem ser vendidas ou alugadas a interessados em ingressar no mercado de criação de conteúdo.
A BBC questionou a Meta sobre perfis que publicaram conteúdos de IA ligados ao Holocausto e adotaram práticas enganosas.
Diversos perfis e grupos foram removidos, incluindo alguns já denunciados pelo Memorial de Auschwitz em junho.
Um porta-voz da empresa disse que, embora as imagens falsas não tenham violado as políticas de conteúdo, a investigação apontou quebra de regras sobre personificação e comércio de páginas.
“Removemos as páginas e grupos compartilhados conosco e desativamos as contas por violarem nossas políticas de spam e comportamento inautêntico”, afirmou.
A inteligência artificial já foi usada no passado para homenagear o Holocausto e dar vida às histórias de vítimas reais. Mas Robert Williams, da Aliança Internacional para a Memória do Holocausto, alertou que isso pode reforçar a ideia de que o Holocausto teria sido fabricado.
“Qualquer forma de manipulação extrema é algo do qual devemos evitar”, disse.
Reportagem adicional de Umer Draz Nangiana, BBC Urdu
