Deepfake: riscos que você e sua empresa correm

A internet vem falando com frequência sobre vídeos “falsificados”; ou, num contexto mais direto, sobre a técnica de deepfake.

O deepfake nos mostra que estamos avançando a passos largos com a tecnologia. O que entra em discussão, aqui, é a forma como as pessoas podem ser enganadas com base no uso de inteligência artificial e deep learning.

Um dos principais usos do deepfake está na pornografia. Um estudo da Deeptrace aponta que 96% dos vídeos de deepfake da internet são relacionados à pornografia. Destes, todos são relacionados à mulheres.

Danielle Citron, professora de direito da Universidade de Boston, afirma que os deepfakes são usados como arma contra as mulheres.

Não somente para isto, já começaram a acontecer crimes baseados em deepfake. Antes de mais nada, entende-se que materiais que podem ser adulterados por deepfake são em vídeo e também em áudio.

Dito isto, recentemente, foi divulgado um caso onde criminosos utilizaram a técnica para clonar a voz de um diretor de uma empresa. Com a técnica, os criminosos puderam roubar US$ 240 mil simulando a voz de um funcionário de alto escalão em contato com um subordinado.

Deepfake: você sabe o que é real ou não?

Educar o usuário para que ele saiba o poder da tecnologia é um ponto chave. Esta ideia é discutida por Alexandre Del Rey, presidente da International Association of Artificial Intelligence (I2AI).

Neste episódio do Sobre tech!, discutimos a relação do deepfake com a sociedade e o quão prejudicial a tecnologia pode ser.

“Se a pessoa não sabe que existe uma tecnologia que pode simular a voz do chefe dela”, ela pode cair num golpe, sim, afirma Alexandre. Mas a briga com a deepfake também acontece utilizando tecnologia, como o Google vem fazendo.

Você pode escutar o nosso podcast no Spotify, Apple Podcasts, Google Podcasts, Deezer, Anchor.fm e mais. É só buscar por “Sobre tech” ou “IT Forum 365” no seu agregador predileto de podcasts.

Notícias, matérias e mais que citamos neste episódio:

• Inteligência artificial rouba R$ 590 mil de empresa imitando voz
• É possível que vídeo com João Doria seja falso?
• Adobe Audio Manipulator Sneak Peak with Jordan Peele