Facial recognition security system. Face augment mobile phone technology concept. Woman portrait looking to camera with grid on her face. reconhecimento facial deepfake
A internet vem falando com frequência sobre vídeos “falsificados”; ou, num contexto mais direto, sobre a técnica de deepfake.
O deepfake nos mostra que estamos avançando a passos largos com a tecnologia. O que entra em discussão, aqui, é a forma como as pessoas podem ser enganadas com base no uso de inteligência artificial e deep learning.
Um dos principais usos do deepfake está na pornografia. Um estudo da Deeptrace aponta que 96% dos vídeos de deepfake da internet são relacionados à pornografia. Destes, todos são relacionados à mulheres.
Danielle Citron, professora de direito da Universidade de Boston, afirma que os deepfakes são usados como arma contra as mulheres.
Não somente para isto, já começaram a acontecer crimes baseados em deepfake. Antes de mais nada, entende-se que materiais que podem ser adulterados por deepfake são em vídeo e também em áudio.
Dito isto, recentemente, foi divulgado um caso onde criminosos utilizaram a técnica para clonar a voz de um diretor de uma empresa. Com a técnica, os criminosos puderam roubar US$ 240 mil simulando a voz de um funcionário de alto escalão em contato com um subordinado.
Educar o usuário para que ele saiba o poder da tecnologia é um ponto chave. Esta ideia é discutida por Alexandre Del Rey, presidente da International Association of Artificial Intelligence (I2AI).
Neste episódio do Sobre tech!, discutimos a relação do deepfake com a sociedade e o quão prejudicial a tecnologia pode ser.
“Se a pessoa não sabe que existe uma tecnologia que pode simular a voz do chefe dela”, ela pode cair num golpe, sim, afirma Alexandre. Mas a briga com a deepfake também acontece utilizando tecnologia, como o Google vem fazendo.
Você pode escutar o nosso podcast no Spotify, Apple Podcasts, Google Podcasts, Deezer, Anchor.fm e mais. É só buscar por “Sobre tech” ou “IT Forum 365” no seu agregador predileto de podcasts.
Notícias, matérias e mais que citamos neste episódio:
A maioria das empresas que hoje investe em inteligência artificial não sabe exatamente quem deve…
A Datamint, startup brasileira de inteligência artificial (IA) voltada à gestão de ativos em operações…
Os consumidores ainda não estão preparados para permitir que agentes de inteligência artificial (IA) realizem…
A Anthropic intensificou seus alertas ao governo dos Estados Unidos sobre os riscos cibernéticos associados…
Por anos, equipes de TI operaram segurança e rede como disciplinas separadas, com ferramentas distintas,…
A presidente e COO da SpaceX, Gwynne Shotwell, afirmou que a abertura de capital da…