MAURÍCIO MEIRELES
SÃO PAULO, SP (FOLHAPRESS) – Uma investigação inédita, conduzida por um jornalista francês, tem ajudado a entender um desafio ao ecossistema de informação que se aprofundou com a chegada da IA generativa.
O trabalho, que acaba de ser divulgado, identificou mais de 15 mil sites falsos gerados com inteligência artificial -e, em muitos casos, os textos trazem a assinatura de jornalistas que nem existem.
Conduzido pelo repórter investigativo Jean-Marc Manach para o site Next.ink, o levantamento mostra sites que simulam ser veículos de imprensa para publicar notícias produzidas com IA ou reescritas a partir do conteúdo de terceiros. O trabalho listou principalmente páginas em francês, mas também encontrou 1.500 sites em inglês e 200 em alemão, além de outros idiomas.
A maioria, segundo o levantamento, nem é dedicada a promover desinformação. O principal objetivo é lucrar com publicidade digital e o tráfego que vem do Google Discover, sistema de recomendação de conteúdo da big tech que é fonte relevante de audiência para sites de notícias.
Manach chegou a identificar dois casos de editores de sites falsos que lucraram mais de US$ 2 milhões (R$ 10 milhões) em três meses dessa forma.
A pesquisa aponta que o fenômeno é liderado por profissionais que se especializaram em otimizar conteúdo para que apareça em destaque em sites de busca, o chamado SEO (otimização de mecanismos de busca, na sigla em inglês).
Segundo o levantamento, 75% desses sites são controlados por menos de 300 operadores, em sua maioria empreendedores individuais ou pequenas empresas.
Cerca de cem administram redes de páginas falsas com mais de 20 domínios cada. E há alguns que chegam a controlar centenas ou mesmo milhares de sites usados para lucrar com os algoritmos de recomendação.
O problema, segundo a pesquisa, se estende também a empresas de mídia tradicionais, que promoveram cortes de pessoal e passaram a recorrer à IA para conseguir ampliar a produção de conteúdo, recorrendo até a textos assinados por jornalistas que não existem.
Há o caso de um autor falso que chegou a publicar cerca de 500 textos por dia. E muitos desses eram versões da mesma notícia, em uma tentativa de aumentar as chances de recomendação em plataformas como Google Discover e MSN.
“A concorrência desses sites falsos é profundamente desleal para o jornalismo profissional”, diz Samira Castro, presidente da Fenaj (Federação Nacional dos Jornalistas).
“Enquanto veículos comprometidos com o interesse público investem em apuração e equipes qualificadas, esses sites se aproveitam da arquitetura das plataformas digitais para capturar audiência com conteúdos enganosos que muitas vezes têm custos irrisórios ou não têm custos.”
Outros dados da pesquisa mostram os incentivos econômicos para a criação de sites falsos com uso de IA. Em certa fase do levantamento, 20% dos mil sites melhor ranqueados no Google Discover eram fruto de inteligência artificial. No caso do Google News, agregador de notícias da big tech, a participação de páginas do tipo entre os 120 principais sites de tecnologia chegava a um terço.
Os dados da pesquisa de Manach superam em muito os números de um dos principais levantamentos usados como referência no mercado, o da NewsGuard, empresa americana fundada por jornalistas que avalia a confiabilidade de sites de notícias.
Em um monitoramento global realizado desde 2023, a empresa identificou 3.749 sites do tipo em 16 idiomas.
Para identificar esse tipo de página, a equipe do jornalista francês não utilizou detectores automáticos de IA, por considerar tais ferramentas pouco confiáveis.
Em vez disso, recorreu a técnicas de investigação digital e ao uso de fontes abertas, cruzando indícios como o volume e a velocidade de publicação atribuídos a um mesmo autor, a existência real ou não dos jornalistas, os responsáveis legais pelos sites e os domínios vinculados a um mesmo proprietário, entre outros pontos.
O alcance das páginas também impressiona. Dados da empresa francesa Médiamétrie reunidos em dezembro, quando havia cerca de 250 sites assim identificados na pesquisa, mostraram que as páginas tinham alcançado um quarto da população francesa -e, três meses depois, o dado tinha saltado para 40% dos habitantes do país.
A equipe que realizou a investigação optou por não tornar pública a lista de sites enganosos. Segundo os autores, a medida busca evitar que a base de dados seja explorada pelos responsáveis por essas páginas para escapar da identificação.
Em vez de divulgar os domínios, os investigadores optaram por incorporá-los a uma extensão gratuita disponível no Google Chrome, no Edge e no Firefox que avisa o usuário sempre que ele acessar uma página identificada na apuração. O nome da extensão é “Alerte sur les sites GenAI” (alerta para sites de IA generativa).
“É fundamental que se estabeleçam regras de transparência para as plataformas e os sistemas de IA, incluindo a identificação de conteúdos gerados artificialmente e mecanismos que permitam rastrear sua origem”, afirma Samira Castro, da Fenaj. “Também é necessário responsabilizar economicamente as grandes plataformas e as empresas de IA, que hoje concentram as receitas e utilizam conteúdo jornalístico para treinar seus modelos”.

Especiais

Não há lightboxes disponíveis.