Da Redação
A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) recomendaram formalmente que a empresa responsável pela rede social X, antigo Twitter, adote medidas imediatas para impedir o uso da inteligência artificial Grok na criação e disseminação de conteúdos sexualizados ilegais, incluindo pornografia infantil e material produzido sem consentimento.
A recomendação conjunta foi publicada após denúncias de que a ferramenta estaria sendo utilizada para gerar imagens e outros conteúdos sintéticos de caráter sexual envolvendo mulheres, crianças e adolescentes, a partir de imagens reais disponíveis na própria plataforma. O uso indevido da tecnologia levanta preocupações relacionadas à violação da privacidade, à proteção de dados pessoais e à dignidade humana.
De acordo com o documento, a empresa tem prazo inicial de até sete dias para demonstrar a adoção de medidas técnicas capazes de bloquear a geração desse tipo de conteúdo pela IA. Entre as exigências estão a implementação de mecanismos que impeçam a criação de imagens sexualizadas de crianças e adolescentes e de representações de pessoas adultas identificáveis sem autorização.
Além disso, a recomendação prevê que, em até 30 dias, a plataforma apresente procedimentos para identificar, revisar e remover conteúdos já existentes, crie canais eficazes de denúncia, suspenda contas envolvidas na produção desse material e elabore um relatório de impacto à proteção de dados, conforme determina a Lei Geral de Proteção de Dados (LGPD).
Os órgãos ressaltam que a eventual omissão da empresa pode resultar na adoção de medidas administrativas e judiciais, incluindo aplicação de multas e outras sanções previstas no Código de Defesa do Consumidor, no Marco Civil da Internet e na legislação de proteção de dados. Entre as possibilidades estão sanções que podem afetar o funcionamento do serviço no país.
Em nota, as instituições destacaram que a circulação de conteúdos sexualizados produzidos por inteligência artificial sem consentimento representa grave ameaça aos direitos fundamentais, sobretudo de mulheres, crianças e adolescentes. O documento afirma que tais práticas podem causar danos irreversíveis à imagem, à segurança e à integridade psicológica das vítimas.
O caso também reacende o debate sobre a necessidade de regulamentação das tecnologias de inteligência artificial no Brasil. Especialistas e autoridades defendem que ferramentas com alto potencial de impacto social devem operar sob regras claras, com mecanismos de prevenção a abusos e responsabilização das empresas desenvolvedoras.
Até o momento, a empresa responsável pela plataforma X não apresentou posicionamento público detalhado sobre o cumprimento das recomendações. As autoridades informaram que acompanharão o caso e poderão adotar novas providências caso as exigências não sejam atendidas dentro dos prazos estabelecidos.
