O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) consideraram insuficientes as providências apresentadas pela plataforma X quanto ao uso da ferramenta de inteligência artificial Grok para gerar e disseminar imagens de pessoas em contextos de sexualização não autorizada.

No mês passado, os três órgãos emitiram uma série de recomendações à plataforma X, incluindo a implementação de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo gerados pelo Grok a partir de comandos de usuários.

Em resposta, a plataforma X informou ter removido milhares de publicações e suspendido centenas de contas por violação de suas políticas, além de adotar medidas de segurança. Contudo, segundo MPF, ANPD e Senacon, a empresa não apresentou evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem a efetividade dessas ações. Testes realizados pelas equipes técnicas dos órgãos indicaram a persistência das falhas, com continuidade da geração e circulação de conteúdos incompatíveis com as recomendações já emitidas.

Em nova manifestação divulgada nesta quarta-feira (11), os três órgãos determinaram que a plataforma X implemente imediatamente medidas efetivas para impedir a produção, via Grok, de conteúdo sexualizado ou erotizado envolvendo crianças, adolescentes e adultos sem consentimento expresso.

As instituições também exigiram informações detalhadas sobre as providências já adotadas para solucionar os problemas identificados. O MPF, por sua vez, determinou que a plataforma envie relatórios mensais sobre suas ações no tema, ressaltando a falta de transparência da empresa até o momento.

A ANPD, o MPF e a Senacon atuam de forma coordenada na apuração dos fatos relacionados ao uso indevido da inteligência artificial Grok, cada qual com procedimentos administrativos próprios, conforme suas competências.

No caso da ANPD, a medida preventiva exige que os mecanismos de proteção contra uso indevido do Grok sejam aplicados a todas as versões, planos e modalidades da ferramenta.

Já no âmbito do MPF, a exigência é pelo envio de relatórios mensais, a partir de fevereiro, detalhando as ações para impedir e reprimir a produção de deepfakes envolvendo crianças, adolescentes e adultos sem autorização prévia, incluindo o número de postagens removidas e contas suspensas em cada período.

O não cumprimento das determinações pode resultar em multa diária para a empresa, responsabilização criminal por desobediência, adoção de medidas investigatórias mais severas e eventual ação judicial, conforme informou o MPF.

Em medida cautelar administrativa, a Senacon cobrou comprovação das providências já adotadas para conter os riscos e solucionar os problemas apontados na recomendação conjunta.

Também foi exigida a remessa de relatório métrico detalhado, com dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao Grok, incluindo o número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos aplicados e eventuais medidas corretivas adicionais, como suspensão de contas ou restrição de funcionalidades.