4 áreas críticas em que a IA é usada por cibercriminosos

A inteligência artificial está sendo usada como arma por cibercriminosos, o que reforça a importância de usá-la também na defesa cibernética como pilar de uma “proteção moderna”. Segundo a Check Point Software, que realizou evento sobre o tema em São Paulo recentemente – o Check Point Engage Brasil 2025 – a IA está sendo usada como ameaça em quatro áreas críticas.

De acordo com o Relatório de Segurança de IA da Check Point Software, são elas:

• Personificação e engenharia social: Deepfakes em vídeo e voz estão sendo usados para enganar vítimas, inclusive em fraudes de identidade. Casos como o ocorrido em Maceió (AL), com uso de imagens manipuladas por adolescentes, demonstram que o problema já é realidade no Brasil;
• Envenenamento de dados e desinformação: Cibercriminosos manipulam dados de treinamento de grandes modelos de linguagem natural (LLMs) para distorcer resultados. Redes como a russa Pravda conseguiram fazer com que chatbots repetissem narrativas falsas em 33% dos testes;
• Malware criado por IA e mineração de dados: Ferramentas como a Gabbers Shop utilizam IA para refinar e explorar dados roubados, aumentando a eficiência dos ataques;
• Sequestro e armamento de modelos de IA: LLMs customizados estão sendo desenvolvidos na Dark Web como armas cibernéticas, muitas vezes burlando mecanismos de proteção e sendo revendidos como ferramentas de invasão.

A resposta das organizações, segundo o mesmo relatório, é investir em defesas baseadas em IA, incluindo detecção assistida por IA, capaz de identificar conteúdos sintéticos e anômalos; verificação de identidade em múltiplas camadas; e inteligência de ameaças com contexto de IA.

“A tecnologia não é mais vista apenas como uma promessa e passou a exigir responsabilidade, governança e uma abordagem de segurança estruturada”, diz em comunicado Eduardo Gonçalves, country manager da Check Point Software Brasil. “Com mais maturidade, as organizações no Brasil estarão entrando em uma nova fase de adoção de IA: mais conscientes, mais estratégicas e, acima de tudo, mais preparadas para extrair valor real da tecnologia sem comprometer a segurança.”

Leia mais: TI do futuro será híbrida, inteligente e conectada por redes autônomas, diz CEO da HPE

De acordo com dados dos últimos seis meses da Check Point Research (CPR), divisão de inteligência de ameaças da empresa, uma organização brasileira sofreu uma média de 2.721 ataques cibernéticos por semana, 40% acima da média global de 1.941 ataques semanais. Dados do Relatório de Inteligência de Ameaças da CPR também mostram que 85% dos arquivos maliciosos no Brasil foram distribuídos pela web nos últimos 30 dias.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!