Ofcom investiga Grok e atuação do X por deepfakes sexuais e avalia a lei britânica atual

O órgão regulador de mídia do Reino Unido, a Ofcom, abriu uma investigação contra o Grok, sistema de inteligência artificial associado ao bilionário Elon Musk. A ferramenta vem sendo utilizada por usuários do X para gerar imagens falsas e sexualizadas de mulheres e de crianças, sem consentimento, em práticas conhecidas como deepfakes.

A apuração busca esclarecer se o X falhou em proteger pessoas contra conteúdos ilegais e se deixou de retirar essas imagens do ar. A remoção é obrigatória pela legislação britânica. A Ofcom avalia o cumprimento das normas que regem a responsabilidade das plataformas na moderação e retirada de conteúdos desse tipo.

Caso sejam constatadas irregularidades, o X pode ser multado em valores que chegam a milhões de dólares. Em último caso, a plataforma pode ser banida no Reino Unido, embora essa seja uma medida considerada rara no país. Atualmente, há apenas uma plataforma proibida, e o processo legal para esse tipo de decisão é complexo.

No Reino Unido, já é ilegal compartilhar conteúdo de teor sexual sem consentimento. Em junho do ano passado, o governo aprovou uma lei que também torna ilegal a criação desse tipo de material. A norma, no entanto, ainda não entrou em vigor. Sob pressão, as autoridades informaram que pretendem ativar a lei nesta semana.

Além disso, o governo prometeu avançar com uma legislação que torne ilegal a oferta, por empresas de tecnologia, de ferramentas em suas plataformas que permitam a criação dessas imagens por usuários. O debate sobre a responsabilização das big techs ocorre também em outros países da Europa e deve seguir nos próximos dias no Reino Unido.