Reino Unido pressiona X a conter uso do Grok na criação de deepfakes íntimos

O governo do Reino Unido intensificou, nesta terça-feira (6), a pressão sobre a plataforma X para que tome medidas urgentes contra a disseminação de imagens íntimas falsas, as chamadas deepfakes, geradas por seu chatbot de inteligência artificial (IA), o Grok. A cobrança se soma a reações de outros países europeus diante do aumento de conteúdos não consensuais circulando na rede social controlada por Elon Musk.

Segundo informações da Reuters, a movimentação ocorre após reportagens apontarem que o Grok, desenvolvido pela xAI, estaria produzindo imagens explícitas a partir de comandos de usuários. De acordo com as apurações, os conteúdos incluem representações de mulheres e até de menores de idade em contextos sexualizados, o que levantou alertas imediatos entre reguladores e autoridades governamentais.

A ministra britânica da Tecnologia, Liz Kendall, classificou o material como inaceitável e afirmou que a plataforma precisa agir rapidamente para impedir a circulação desse tipo de conteúdo. De acordo com ela, ninguém deveria ser exposto ao impacto de ver imagens íntimas falsas associadas ao próprio nome ou imagem, especialmente quando esse tipo de material atinge de forma desproporcional mulheres e meninas.

Leia também: Data centers orbitais prometem resolver crise energética da IA

Crime digital

No Reino Unido, a criação ou o compartilhamento de imagens íntimas não consensuais, inclusive aquelas geradas por inteligência artificial, é considerado crime. A legislação também impõe às plataformas digitais a obrigação de impedir que usuários britânicos tenham acesso a conteúdos ilegais e de removê-los assim que forem identificados.

Procurada após a manifestação do governo britânico, a X não respondeu imediatamente aos pedidos de comentário. No entanto, no fim de semana anterior, a conta oficial de segurança da plataforma afirmou que todo conteúdo ilegal é removido e que perfis envolvidos em violações graves são permanentemente suspensos.

A empresa também declarou que usuários que utilizarem o Grok para gerar material ilegal estarão sujeitos às mesmas sanções aplicadas a quem publica esse tipo de conteúdo diretamente na rede.

Em declarações recentes à Reuters, representantes da X minimizaram as críticas, classificando reportagens da imprensa tradicional como enganosas. Paralelamente, Musk reagiu com ironia a postagens que exibiam imagens adulteradas de figuras públicas, usando emojis de riso em suas respostas.

A reação britânica não ocorreu de forma isolada. Na segunda-feira (5), a Comissão Europeia informou estar ciente da existência de um chamado “modo picante” no Grok e condenou a produção dessas imagens, considerando-as ilegais segundo as normas da União Europeia. Ainda no mesmo dia, o órgão regulador de mídia do Reino Unido, a Ofcom, anunciou que fez contato urgente tanto com a X quanto com a xAI para entender quais medidas estão sendo adotadas para cumprir as obrigações legais de proteção aos usuários no país.

Outros governos também reagiram. Autoridades francesas relataram o caso a promotores e reguladores, descrevendo o conteúdo como claramente ilegal. Na Índia, órgãos governamentais solicitaram explicações formais à plataforma sobre o funcionamento do Grok e os mecanismos de controle adotados. Até o momento, reguladores dos Estados Unidos não se manifestaram publicamente sobre o tema.