Da Redação
Mesmo com promessas de tecnologia avançada e políticas rígidas, as principais redes sociais ainda permitem a circulação de imagens e vídeos que expõem crianças e adolescentes de forma indevida. O problema persiste por falhas nos sistemas de detecção, limitações da moderação humana e um modelo de negócios que privilegia engajamento e monetização.
O assunto voltou a ganhar destaque após o influenciador Felca acusar Hytalo Santos de usar adolescentes para produzir conteúdo sexual. O caso escancarou um cenário conhecido por especialistas: materiais sensíveis continuam acessíveis e, em muitos casos, acompanhados de comentários que negociam ou trocam conteúdo explícito envolvendo menores.
Onde os filtros falham
Ferramentas de inteligência artificial detectam padrões óbvios, mas não conseguem identificar imagens recortadas, áudios modificados ou publicações com contexto ambíguo. Com bilhões de uploads diários, nenhuma plataforma consegue depender apenas de moderadores humanos. Criadores que tentam burlar as regras exploram brechas, alterando formatos, metadados ou editando o material para escapar dos filtros automáticos.
O peso do engajamento
A lógica comercial dessas empresas favorece publicações que geram cliques e aumentam o tempo de permanência do usuário, mesmo que envolvam material sensível. Isso significa que conteúdos potencialmente nocivos podem permanecer online por mais tempo se despertarem interação.
A posição das plataformas
Meta (Instagram e Facebook), TikTok e YouTube afirmam proibir a sexualização de menores, utilizar IA para remoção automática de conteúdos ilegais e recorrer a revisão humana em casos complexos. Ainda assim, especialistas cobram maior transparência sobre investimentos e custos destinados à moderação, além de dados públicos sobre a rapidez e eficácia das remoções.
Medidas propostas
Entre as soluções apontadas estão: bloquear a monetização de vídeos com imagens de crianças, reduzir o alcance de conteúdos sensíveis, exigir revisão humana sempre que houver presença de menores e publicar relatórios periódicos sobre o desempenho dos sistemas de detecção.
Proteção imediata
Enquanto mudanças estruturais não chegam, famílias e educadores podem reduzir riscos limitando a exposição de fotos e vídeos de crianças em perfis públicos, utilizando controles parentais e ajustando configurações de privacidade. Também é essencial conversar com crianças sobre riscos online, incentivá-las a denunciar conteúdos que as deixem desconfortáveis e reforçar quem tem autorização para postar imagens delas.
