Um documentário curto no canal do YouTube da influenciadora “Dead Domain” entrevistou pessoas, especialmente mulheres, PCDs e outros grupos vulneráveis, que foram vítimas da mais recente falha do Grok, IA de Elon Musk no site X (antigo Twitter): a capacidade de solicitar, abertamente e sem restrições, que a interface edite imagens de outras pessoas no site, mesmo quando essas edições agridem a honra, integridade e/ou privacidade da vítima.
O documentário, intitulado “No One Is Safe: INTERVIEWING The Victims of Elon Musk’s Harassment Machine” (em português, “Ninguém Está A Salvo: ENTREVISTANDO As Vítimas da Máquina de Assédio de Elon Musk“) denuncia um ponto em comum entre todas as vítimas: elas foram, por uma série de fatores, alvo de campanhas de ódio e assédio iniciada por membros de comunidades extremistas.
Acesse o canal da TMC no WhatApp para ficar sempre informado das últimas notícias
Os ataques consistem em responder às publicações com fotos da vítima com pedidos pejorativos, como “tire as roupas dela“, “coloque-a em um biquíni“, “cubra-a em óleo“, “coloque seios enormes nela“, “coloque-a de joelhos” e afins. O Grok responde na própria publicação com a imagem editada, e os usuários podem pedir novas edições em cima da foto já alterada.
Uma das vítimas, inclusive, denuncia que desde que começou a ser assediada pelos usuários anônimos, não conseguia mais subir nenhuma foto na plataforma sem que ela fosse deturpada pelos vários pedidos de edições; eles solicitavam à IA alterações de cunho sexual até mesmo em uma foto de sua mãe, durante tratamento contra um câncer, após uma sessão de quimioterapia.
A criadora de conteúdo conhecida como “Ess” (@essaere) no X, que está entre as vítimas deste tipo de ataque, iniciou e divulgou nos primeiros dias deste ano uma petição na plataforma Change.org reunindo assinaturas para demandar que medidas sejam tomadas contra a plataforma e seu dono, o bilionário Elon Musk.
Leia mais: Erika Hilton denuncia IA do X por gerar imagens eróticas não autorizadas
Entre o fim de 2025 e o começo de 2026, o Grok e a rede social foram notícia em todo o mundo justamente por conta de casos em que a IA era utilizada para gerar conteúdo pornográfico não-consensual, inclusive envolvendo fotos de crianças. A deputada Erika Hilton, do PSOL, protocolou no último domingo (4) uma ação junto ao Ministério Público Federal (MPF) denunciando o X e o Grok por produção não-consensual de pornografia.
“Revenge Porn”: o que é
Especialistas e usuários associam este tipo de ataque utilizando o Grok ao que é conhecido como “revenge porn”, ou “pornografia de vingança”. O nome é autoexplicativo: trata-se da utilização da pornografia para se vingar de alguém. Por exemplo: um casal termina o namoro, e uma das partes, contrariada com o término, decide se vingar da outra parte publicando na internet fotos e vídeos íntimos que compartilhavam entre si quando estavam juntos.
Para a maioria das vítimas nestes casos, o que fica evidente é que não se trata “apenas” da sexualização: uma das entrevistadas alega que a “crueldade é o ponto”, isto é, que o agressor não busca apenas gratificação sexual e sim a humilhação da sua vítima.
Veja a íntegra do manifesto na petição:
“A cada SEGUNDO, o Grok, IA da rede de mídias sociais X (antigo Twitter) está sendo usado para gerar imagens de mulheres e crianças reais, com suas roupas removidas, alteradas, ou sendo colocadas em cenários sexualmente explícitos, SEM CONSENTIMENTO. Existe uma tendência desenfreada acontecendo onde pessoas usam as respostas de fotos de mulheres para despi-las com o clique de um botão. Isto chega ao ponto em que usuários criam contas anônimas descartáveis onde eles sobem imagens de mulheres que conhecem, tirando prints de suas contas privadas e outros lugares, pedem ao Grok para que tire suas roupas, e deletam a publicação depois que a imagem é gerada. Cinco minutos em qualquer fio de respostas do Grok em publicações vai lhe mostrar exatamente para qual fim esta IA está sendo usada. Isto é claramente uma vasta distribuição de pornografia não-consensual sendo publicada em uma DAS MAIORES PLATAFORMAS DE MÍDIAS SOCIAIS DA INTERNET. Isto significa que alguém pode estar subindo imagens da sua mãe, avó, irmã, prima, melhor amiga, etc e as alterando digitalmente até ficarem nuas para TODO MUNDO ver, publicamente. Este é um problema gigante sendo ignorado e permitido que continue funcionando a todo vapor. Nós não devíamos estar sujeitos a ver, contra a nossa vontade, pornografia infantil e conteúdo adulto não-consensual enquanto navegamos pelo X. Precisamos que vozes sejam ouvidas. Precisamos de regulamentação.
Em concordância com o TAKE IT DOWN ACT, criar e distribuir imagens íntimas NÃO-CONSENSUAIS, incluindo “falsificações digitais” (ex.: deepfakes) é ILEGAL.
Criar material de abuso sexual infantil é ILEGAL.
O X/Twitter é cúmplice ao permitir que sua IA continue por este caminho. PRECISAMOS DE REGULAMENTAÇÃO. JÁ!”
