O Ministério Público Federal, a Agência Nacional de Proteção de Dados e a Secretaria Nacional do Consumidor consideraram insuficientes as medidas adotadas pela plataforma X para conter o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de imagens sexualizadas não autorizadas. As entidades exigem ações imediatas e relatórios mensais detalhados sobre o combate a esse tipo de.

No mês passado, as três instituições emitiram recomendações para que a plataforma X adotasse procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários. Em resposta, a empresa afirmou ter removido milhares de publicações e suspendido centenas de contas, além de implementar medidas de segurança. Contudo, as entidades apontaram a ausência de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovem a efetividade dessas ações.

Testes preliminares realizados pelas equipes técnicas indicam que as falhas persistem, com a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações. Por isso, os órgãos determinaram que a plataforma implemente imediatamente medidas para impedir a produção de imagens sexualizadas ou erotizadas envolvendo crianças, adolescentes e adultos sem consentimento. Também foi exigida a prestação de informações detalhadas sobre as providências adotadas para sanar os problemas identificados.

O Ministério Público Federal ordenou o envio de relatórios mensais contendo dados sobre a atuação da plataforma no combate a deepfakes envolvendo menores e maiores sem autorização, incluindo números de postagens removidas e contas suspensas. Caso as determinações não sejam cumpridas, a empresa poderá ser multada diariamente, responder por crime de desobediência e sofrer medidas investigatórias e ações judiciais.

A Agência Nacional de Proteção de Dados exige que os recursos para impedir o uso indevido da ferramenta abrangem todas as versões e modalidades do Grok. A Secretaria Nacional do Consumidor também solicitou a comprovação das providências já adotadas e o envio de relatórios métricos detalhados com dados quantitativos sobre identificação, moderação, remoção e indisponibilização dos conteúdos sexualizados relacionados ao funcionamento da ferramenta.

As instituições seguem acompanhando o caso para garantir a proteção dos usuários e a responsabilização da plataforma X por eventuais irregularidades.

Publicidade