O aumento do uso da inteligência artificial em vários setores tem aumentado as preocupações com segurança cibernética em torno das tecnologias. Não por acaso um estudo recente da IBM revelou que 84% das empresas a estão usando também para se defenderem, adotando soluções de cibersegurança impulsionadas pela IA.
Para Wesney Silva, head of cybersecurity da NAVA Technology for Business, é importante compreender as vulnerabilidades trazidas pela IA para implementar as medidas de segurança mais adequadas. E, portanto, é importante sabermos quais são seus riscos associados.
Leia também: Deepfakes vão complicar verificação de identidade no futuro, alerta Gartner
“É crucial que as organizações estejam cientes dos potenciais ameaças à segurança cibernética relacionadas à IA e implementem medidas de proteção adequadas”, diz.
Entre os principais cuidados de cibersegurança relacionados à IA, Wesney destaca seis:
Inserção de dados maliciosos durante o treinamento de modelos de IA pode levar a previsões incorretas e decisões comprometidas.
Ataques de evasão que podem comprometer a integridade dos sistemas de IA, levando a decisões incorretas e potencialmente perigosas.
A extração de informações sobre o modelo pode permitir que adversários compreendam fraquezas do sistema ou mesmo recriem modelos semelhantes para fins maliciosos.
Ataques de inferência podem comprometer a privacidade dos usuários, permitindo que adversários obtenham informações sensíveis sobre os dados de treinamento.
IAs que fazem parte do ecossistema de serviços críticos podem ser alvos de ataques DoS ou DDoS, buscando tornar o sistema indisponível.
Modelos de IA podem perpetuar ou amplificar vieses presentes nos dados de treinamento, levando a resultados discriminatórios ou injustos.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
O Governo Biden anunciou, nesta segunda-feira (6), que o programa CHIPS for America destinará cerca…
Nem só de inteligência artificial vivem os executivos de TI das empresas. Sabendo disso, o…
As tecnologias exponenciais são aquelas que demonstram rápido desenvolvimento, apresentando um potencial de transformação imenso…
As operadoras de telefonia Claro, TIM e Vivo tomaram a iniciativa de liberar o acesso…
Durante o IT Forum Trancoso 2024, executivos discutiram as estratégias para contratar e reter a…
As startups ativas do setor de saúde – ou healthtechs – alcançaram o número de…