PT pede investigação e suspensão de IA da plataforma X por suspeita de exploração sexual de crianças e adolescentes e mulheres

Trinta e seis deputados federais do Partido dos Trabalhadores (PT) protocolaram uma representação na Procuradoria da República no Distrito Federal pedindo a abertura de investigação sobre o sistema de inteligência artificial Grok, integrado à plataforma X. A ação solicita, além da apuração, a suspensão temporária da ferramenta e a retirada imediata de conteúdos gerados sem consentimento, especialmente envolvendo crianças, adolescentes e mulheres. Os parlamentares alegam que a tecnologia tem sido usada para criar imagens falsas de cunho sexual, com alto grau de verossimilhança. O pedido inclui a responsabilização legal da plataforma pelos conteúdos produzidos e disseminados. A iniciativa foi apresentada na quarta-feira (14) e divulgada pelo site do PT nesta quinta-feira (15).

Elon Musk I Arquivo

A representação é assinada por 36 deputados do PT, entre eles a ex-ministra de Direitos Humanos Maria do Rosário (RS). No documento encaminhado ao Ministério Público Federal, os parlamentares afirmam que o Grok, sistema de inteligência artificial generativa da plataforma X, tem sido utilizado para produzir conteúdos sintéticos a partir do uso não autorizado de imagens reais, resultando em montagens sexualizadas conhecidas como “deepnudes”.

“O sistema de inteligência artificial generativa integrado à plataforma X (antigo Twitter), denominado Grok, vem sendo utilizado para a produção de conteúdos sintéticos a partir do uso não consentido de imagens, especialmente de crianças e adolescentes e mulheres, gerando mídias automatizadas falsas com representação sexualizada e íntima, e alto grau de verossimilhança”, afirmam os deputados na representação, segundo o site do PT. Eles também pedem a adoção de medidas preventivas para evitar novas publicações desse tipo.

De acordo com o texto, o Grok opera como um chatbot capaz de gerar imagens, vídeos e textos a partir de comandos dos usuários. Os parlamentares sustentam que a ferramenta tem sido “amplamente instrumentalizada para gerar deepnudes de maneira indiscriminada e à revelia da legislação nacional”, com impactos diretos sobre grupos vulneráveis. “Preocupa especialmente o insistente manejo de tecnologias digitais para atacar, prejudicar e expor crianças, adolescentes e mulheres, na contramão de seu potencial uso eficiente para alargar a proteção a direitos”, destacam.

Os deputados apontam que muitos dos conteúdos produzidos utilizam imagens originalmente publicadas por usuários da própria plataforma, sem qualquer tipo de consentimento, que são adulteradas e transformadas em material de cunho sexual. “Os conteúdos variam, havendo mídias com crianças, adolescentes e mulheres nus ou com roupas íntimas”, descreve o documento. Segundo os parlamentares, os efeitos sobre as vítimas podem ser duradouros, especialmente no caso de crianças e adolescentes, com impactos negativos na saúde mental, na socialização e na dignidade.

Maria do Rosário afirma que o uso da inteligência artificial nesses casos configura crime. “A tecnologia não pode ser instrumento de abuso, humilhação e violência. O uso de inteligência artificial para explorar sexualmente crianças, adolescentes e mulheres é criminoso e precisa ser interrompido com urgência”, declarou a deputada, conforme o site do PT. Ela acrescentou: “Usar a IA para fraudar imagens de crianças, adolescentes e mulheres e levar à pornografia, isso não é sobre tecnologia, isso é um crime”.

A ex-ministra também defendeu que a inteligência artificial seja direcionada para finalidades sociais positivas. Segundo ela, a tecnologia deveria ser “utilizada para salvar vidas, melhorar o processo de trabalho, diminuir o tempo de tarefas”, e não se transformar em “instrumento de opressão, ameaça à vida e à integridade das pessoas, especialmente quando envolve crianças e mulheres”.

Na representação, os parlamentares argumentam que as práticas denunciadas violam a legislação brasileira, em especial o Estatuto da Criança e do Adolescente (ECA), uma vez que não há consentimento legal possível nesse tipo de conteúdo. Eles lembram ainda que outros países, como Reino Unido, Austrália, Índia e Malásia, já adotaram medidas para coibir abusos semelhantes em plataformas digitais.

Maria do Rosário também cita o chamado “ECA Digital”, que estabelece deveres às plataformas tecnológicas quanto à prevenção, remoção e responsabilização por conteúdos que violem direitos fundamentais de pessoas em situação de vulnerabilidade. Para ela, a regulação das redes é necessária para enfrentar o que classifica como um ambiente de impunidade no uso das tecnologias.

Os deputados contextualizam o pedido no cenário brasileiro recente, lembrando que, em 2025, a sexualização de crianças e adolescentes esteve no centro do debate público devido ao aumento de denúncias envolvendo o uso de redes sociais e tecnologias digitais. Segundo eles, esse processo resultou na aprovação da Lei nº 15.211/2025, conhecida como ECA Digital, voltada à proteção contra a adultização e o uso erotizado da imagem de crianças e adolescentes. Ainda assim, afirmam que o avanço da legislação enfrenta resistência de grandes empresas de tecnologia, que atuariam no Congresso para fragilizar normas de proteção.