Após repercussão mundial, xAI muda regras e veta geração de deepfakes no Grok

A xAI, empresa de inteligência artificial (IA) de Elon Musk, anunciou nesta quarta-feira (14/01) uma mudança em suas políticas de geração de imagem. Após a repercussão mundial e pressão de diversos governos, a plataforma decidiu desativar a possibilidade de os usuários utilizarem o chatbot Grok para criar imagens sexualizadas de pessoas reais.

“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis”, publicou a empresa em sua rede social, X.

A companhia também bloqueou o Grok de gerar “imagens de pessoas reais em biquínis, roupas íntimas e vestimentas semelhantes”, mas apenas em países onde isso é ilegal. Segundo a companhia, as mudanças se aplicam a todos os usuários do X, incluindo assinantes premium. Uma limitação já havia sido aplicada na semana passada, mas apenas para usuários pagantes.

A empresa afirmou que os assinantes do serviço premium do X ainda podem usar o Grok para editar e criar outras imagens geradas por IA que estejam em conformidade com os termos de serviço da plataforma.

Leia mais: Investidores processam Oracle por perdas ligadas à expansão de infraestrutura de IA

As mudanças técnicas no Grok ocorrem após diversos governos e reguladores em todo o mundo condenaram a funcionalidade. Só esta semana, o gabinete do procurador-geral da Califórnia abriu uma investigação contra a xAI e vários países europeus abriram apurações semelhantes sobre a xAI e o Grok, incluindo França e Reino Unido.

No Brasil, o Instituto de Defesa de Consumidores (Idec) pediu nesta segunda-feira (12), a suspensão do Grok. De acordo com o pedido da instituição, a permissão concedida pela plataforma seria “um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários.”

Até o momento, Musk defendeu a tecnologia, atribuindo a responsabilidade aos usuários por seu uso indevido. Ainda assim, a empresa afirmou na publicação que tem “tolerância zero a qualquer forma de exploração sexual infantil, nudez sem consentimento e conteúdo sexual indesejado”.