Microsoft amplia proteção contra deepfakes de pornografia de vingança

A Microsoft acaba de firmar uma parceria com a StopNCII para combater a disseminação de deepfakes de pornografia de vingança, unindo forças na luta contra imagens explícitas na internet. Essa colaboração permite que vítimas criem impressões digitais de imagens, que serão usadas para remover esse conteúdo das buscas no Bing. A iniciativa se alinha a esforços semelhantes de outras grandes empresas, como Facebook, Instagram, OnlyFans, Snapchat, TikTok e outras, que também trabalham com a StopNCII para erradicar pornografia de vingança de suas plataformas.

A StopNCII é renomada por possibilitar que vítimas criem impressões digitais, ou “hashes”, de imagens explícitas. A Microsoft incorporou o Bing a essa rede de proteção, empregando essas impressões digitais para remover imagens comprometedoras dos resultados de busca. Desde o início da parceria, a Microsoft informou que já tomou medidas para bloquear 268.000 imagens explícitas que apareciam nos resultados de pesquisa do seu buscador.

A empresa revelou também que, embora já oferecesse uma ferramenta de denúncia direta, a estratégia não era suficiente para conter a disseminação desse conteúdo prejudicial, conforme reconhecido em uma postagem no blog da companhia.

Leia mais: Amazon inaugura centro de desenvolvimento de software em Belo Horizonte

A problemática não se limita à Microsoft. O Google, um dos mecanismos de busca mais populares do mundo, também disponibiliza ferramentas para denunciar e remover imagens explícitas, mas a gigante da tecnologia foi criticada por ex-funcionários e vítimas por não ter se associado à StopNCII, como reportado pelo Wired. Desde 2020, usuários do Google na Coreia do Sul registraram cerca de 170.000 links com conteúdo sexual indesejado.

Enquanto isso, as ferramentas da StopNCII, que funcionam apenas para adultos, não são suficientes para combater o problema crescente de deepfakes. Nos Estados Unidos, a falta de uma legislação federal específica leva a uma abordagem fragmentada. Em agosto, promotores de São Francisco entraram com uma ação para remover 16 sites de “desnudamento”, e 23 estados americanos já aprovaram leis para lidar com deepfakes não consensuais.

*Com informações do TechCrunch

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!