Folha de S.Paulo
A inteligência artificial generativa Grok, integrada à plataforma X (antigo Twitter), passou a ser alvo de denúncias após usuários utilizarem a ferramenta para criar imagens íntimas sem o consentimento das mulheres retratadas. A prática envolve a edição de fotos publicadas na rede social, com pedidos para que o sistema altere ou remova peças de roupa, resultando em imagens de cunho sexual. Relatos indicam que a manipulação atingiu tanto mulheres comuns quanto, em situações mais graves, imagens envolvendo crianças.
Após a circulação de conteúdos com nudez infantil, o Grok divulgou uma nota de desculpas à comunidade, informando que a empresa responsável, a xAI, está revisando os sistemas de segurança para identificar as falhas que permitiram a geração desse tipo de material. Segundo a plataforma, as medidas visam reforçar os mecanismos de proteção e evitar novos usos indevidos da ferramenta.
Um dos casos que ganharam repercussão é o da cantora Julie Yukari. Ela publicou uma foto ao lado de seu gato no X no dia 31 de dezembro de 2025 e, pouco tempo depois, usuários solicitaram ao Grok que modificasse a imagem, retratando-a com roupas mínimas. Julie relatou que havia bloqueado o uso do Grok em seu perfil e acreditava que a ferramenta não conseguiria manipular suas imagens. Ao denunciar as publicações, conseguiu a remoção dos perfis e dos comandos que originaram as imagens, mas as versões geradas pela IA permaneceram disponíveis, sob a justificativa de que não violariam as regras da plataforma.
Diante da situação, a cantora registrou um boletim de ocorrência e buscou orientação jurídica. Segundo ela, advogados avaliaram que a remoção parcial do conteúdo pelo X reduziria as chances de avanços legais mais amplos, o que acabou desestimulando a continuidade do processo. Julie também relatou ter recebido recomendações para evitar a publicação de fotos na rede social, orientação que, segundo ela, reforça a sensação de perda de espaço e responsabilização da vítima diante do abuso.
Casos semelhantes vêm sendo relatados por centenas de mulheres, que afirmam ter suas imagens manipuladas sem consentimento e compartilhadas com fins sexualizados. Usuárias alertam que qualquer foto publicada no X pode ser alterada por terceiros com o uso do Grok, o que tem gerado preocupações sobre privacidade, segurança digital e assédio online. Há ainda registros de denúncias de manipulação de imagens retiradas de outras redes sociais, como o Instagram.
Em resposta às denúncias, o X informou, por meio de mensagens automáticas, que possui regras específicas sobre mídia sensível, consentimento e exploração sexual, orientando os usuários a denunciarem conteúdos impróprios e a ajustarem as configurações de visualização. A plataforma também afirma que analisa casos de nudez não consensual e exploração sexual de menores de forma prioritária.
No Brasil, o debate ocorre em um contexto de mudanças recentes na legislação. Em 2025, o presidente Luiz Inácio Lula da Silva sancionou uma lei que altera o artigo 147-B do Código Penal, prevendo aumento de pena para o crime de violência psicológica contra a mulher quando há uso de recursos tecnológicos capazes de manipular imagem, voz ou som da vítima, como nos casos de deepfakes. A pena, que varia de seis meses a dois anos de reclusão, além de multa, pode ser aumentada em até 50% quando há o uso dessas tecnologias.
