O chatbot de inteligência artificial Grok, desenvolvido por Elon Musk, foi bloqueado pela Indonésia e Malásia neste fim de semana. A medida foi tomada após a ferramenta disponível na plataforma X gerar imagens manipuladas de mulheres e menores em situações sugestivas por meio do que está sendo chamado de “função de desnudamento digital”. Os dois países asiáticos são os primeiros a proibir o sistema de IA criado por Musk.
A polêmica surgiu quando usuários descobriram que podiam pedir ao Grok para manipular fotos e criar deepfakes sexualmente explícitos. Esta prática de manipulação digital viralizou no final do ano passado, afetando centenas de milhares de mulheres globalmente que tiveram suas imagens alteradas em poses sugestivas ou usando trajes de banho.
Acesse o canal da TMC no WhatApp para ficar sempre informado das últimas notícias
Autoridades dos dois países justificaram a decisão como necessária para “proteger mulheres, crianças e o público em geral dos riscos de conteúdo pornográfico falso gerado usando tecnologia de inteligência artificial.” A Malásia implementou uma proibição temporária no domingo, mencionando “o uso indevido repetido do Grok para gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores.”
O bloqueio ocorreu em janeiro de 2026, após semanas de denúncias sobre o uso inadequado da plataforma. Indonésia e Malásia, nações de maioria muçulmana com leis rigorosas contra pornografia, agiram rapidamente contra o sistema de IA.
A ferramenta de Musk impactou principalmente usuários nos dois países asiáticos, onde o acesso foi totalmente bloqueado. Autoridades do Reino Unido, União Europeia e Índia também expressaram preocupações sobre as proteções insuficientes no Grok.
A Indonésia, com mais de 270 milhões de habitantes, e a Malásia, com cerca de 32 milhões, são mercados importantes na Ásia. Ambos aplicaram restrições completas ao acesso à ferramenta de IA.
Pesquisadores da AI Forensics analisaram 20.000 imagens aleatórias geradas pelo Grok e 50.000 solicitações de usuários entre 25 de dezembro e 1º de janeiro. O estudo identificou “uma alta prevalência de termos incluindo “ela”, “colocar”/”remover”, “biquíni” e “roupa”“. Mais da metade das imagens de pessoas criadas pelo sistema “continham indivíduos com vestimentas mínimas, como roupas íntimas ou biquínis.”
Leia mais: Nike oficializa encerra “era dos NFTs” para focar no varejo físico
Musk e a xAI afirmaram estar enfrentando o problema com suspensão permanente de contas infratoras e “trabalhando com governos locais e autoridades policiais.” Apesar dessas medidas, o chatbot continuou gerando imagens que sexualizam mulheres. Publicamente, o empresário defende sua posição contra o que denomina modelos de IA “woke“ e argumenta que “os governos apenas querem suprimir a liberdade de expressão”.
A deputada britânica Jess Phillips comentou sobre o caso: “Manipular sexualmente imagens de mulheres e crianças é desprezível e abominável“. Ela acrescentou: “Espero que a Ofcom use todos os poderes legais que o Parlamento lhes concedeu” para lidar com a situação.
