Na mira das deepfakes: reflexões sobre o futuro da segurança e autenticidade digital

*Por Vinícius Boemeke, CEO e co-fundador da Pulsus

A participação no Gartner IT Symposium 2024 trouxe uma análise profunda sobre o que as deepfakes representam para o futuro das empresas e de seus líderes. A palestra de David Furlonger, intitulada “Maverick Research: Persistent Live Logging is the antidote to deepfake and fake news,” apresentou uma visão ousada para enfrentar essa ameaça crescente. As pesquisas Maverick do Gartner são conhecidas por serem provocativas e reflexivas, trazendo ideias que desafiam o status quo — e esta apresentação não foi diferente.

Com a rapidez da evolução das deepfakes, o que antes parecia uma ameaça distante agora é um risco real e imediato, colocando em jogo a reputação e a confiança de empresas e executivos de todos os setores. David compartilhou previsões de impacto financeiro que são alarmantes: segundo o Gartner, até 2027, o uso malicioso dessa tecnologia pode resultar em uma perda de mais de 1 trilhão de dólares em valor de mercado.

Leia também: Estudo alerta para atrofia da cognição humana com uso constante de IA 

Porém, além das finanças, estamos falando de um ataque direto à confiança. Foram apresentados exemplos reais, como o caso de um executivo em Hong Kong que transferiu $25 milhões após receber uma solicitação de um avatar ultrarealista do “CFO” em uma videoconferência. Situações como essa mostram o quanto a autenticidade digital está ameaçada e o quanto precisamos de novas estratégias de proteção.

É aí que entra o conceito de Persistent Live Logging, defendido como um possível “antídoto” contra falsificações digitais. A ideia é gravar continuamente áudio e vídeo, não como uma forma de evitar que esses ataques aconteçam, mas como uma prova irrefutável da autenticidade das ações de um executivo ou líder. Com esse “log” permanente, seria possível comprovar a falsidade de uma deepfake caso um vídeo ou áudio manipulado viesse a público. Contudo, apesar do potencial dessa tecnologia, questiono se estamos prontos para abrir mão da privacidade em nome da segurança.

Monitoramento constante: um caminho necessário, mas cheio de desafios

A palestra de David Furlonger destacou que essa tecnologia pode ser uma solução eficaz, mas também levanta questões éticas e psicológicas. Gravar tudo o que fazemos traz riscos que vão além da segurança digital — afeta diretamente a saúde mental e o bem-estar. A sensação de estarmos monitorados 24 horas por dia pode ser sufocante, e como líder, vejo isso como um dilema real: até onde podemos ir para proteger nossa reputação sem sacrificar nossa privacidade?

Além disso, o monitoramento contínuo traz desafios legais e contratuais. Se a ideia é capturar dados de cada movimento e cada palavra de executivos e colaboradores, como garantir a conformidade com as leis de privacidade? Como administrar essas informações se o colaborador muda de empresa?

Ou até mesmo se este executiva muda de empresa, o que fazer com todos esses logs? São armazenados pela empresa anterior? São destruídos? São transferidos para a nova empresa?

Essas são questões que, como CEO, considero cruciais e que demandam uma reflexão cuidadosa. Tenho a convicção de que é essencial ter uma abordagem equilibrada — precisamos proteger nossas empresas, mas de uma forma que não invada o espaço pessoal dos indivíduos.

O que está por vir: adaptando-nos a um mundo sem confiança

Acredito que, enquanto líderes, temos a responsabilidade de nos adaptar a esse novo cenário e, ao mesmo tempo, de criar um ambiente de confiança e respeito aos colaboradores. Não é uma tarefa simples, mas a apresentação Maverick do Gartner nos lembrou da importância de estarmos preparados. Se não agirmos de forma consciente, podemos acabar em um cenário onde a proteção contra deepfakes exige uma vigilância intrusiva, comprometendo o equilíbrio entre segurança e privacidade.

Essas reflexões são um convite para que todos nós, gestores, líderes e executivos, pensemos em soluções que combinem segurança e privacidade, sem abrir mão do respeito ao indivíduo. Afinal, mais do que nunca, estamos em uma era em que a reputação é um ativo inestimável.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias