Confiança em IA torna-se prioridade para líderes de segurança, aponta Forrester

A adoção da inteligência artificial (IA) segue crescendo em empresas de diferentes setores, mas a capacidade das organizações de estabelecer mecanismos de confiança, governança e gestão de riscos não acompanha o mesmo ritmo. Essa é a principal conclusão apresentada pela Forrester em artigo que antecipa os debates do Forrester Security & Risk Forum, evento voltado a executivos de segurança da informação, risco e tecnologia.

Segundo a consultoria, a IA deixou de ser projeto experimental para se tornar parte das operações corporativas, impulsionando produtividade, automação e criação de novos serviços. Ao mesmo tempo, o avanço da tecnologia aumentou a preocupação das empresas com aspectos como segurança dos modelos, proteção de dados, transparência das decisões automatizadas e conformidade regulatória.

Para a Forrester, esse cenário amplia a responsabilidade das áreas de segurança e risco, que passam a desempenhar papel central na adoção sustentável da inteligência artificial. Em vez de atuarem apenas como responsáveis por controles técnicos, esses executivos precisam participar das decisões estratégicas sobre como a IA será implementada e governada dentro das organizações.

A consultoria observa que muitas empresas já superaram a discussão sobre se utilizarão inteligência artificial. O desafio agora é definir como expandir essas iniciativas mantendo controles capazes de reduzir riscos operacionais, financeiros, regulatórios e de reputação.

Segurança passa a fazer parte da estratégia de IA

Entre os principais desafios apontados pela Forrester está a necessidade de criar modelos de governança específicos para aplicações de inteligência artificial generativa e agentes inteligentes. Diferentemente dos sistemas tradicionais, essas tecnologias produzem respostas dinâmicas, aprendem com grandes volumes de informação e podem interagir com diversos sistemas corporativos, ampliando a superfície de risco.

Segundo a análise, questões relacionadas à privacidade, proteção de propriedade intelectual, exposição de informações confidenciais e uso indevido de modelos tornaram-se preocupações permanentes para líderes de segurança.

Leia mais: 8 em cada 10 instituições financeiras atacadas pagaram resgate a hackers, aponta pesquisa

A consultoria também destaca que o aumento do número de regulamentações sobre inteligência artificial em diferentes países pressiona empresas a adotar mecanismos mais robustos de auditoria, rastreabilidade e prestação de contas. Nesse contexto, programas de governança deixam de ser apenas iniciativas de conformidade e passam a influenciar diretamente a capacidade das organizações de inovar com segurança.

Outro ponto destacado é que confiança não depende exclusivamente de tecnologia. Para a Forrester, construir um ambiente confiável exige integração entre áreas como segurança da informação, gestão de riscos, jurídico, privacidade, tecnologia, negócios e recursos humanos. Essa abordagem multidisciplinar permite estabelecer políticas consistentes para o desenvolvimento, aquisição e utilização de soluções baseadas em IA.

O estudo também chama atenção para a necessidade de revisar continuamente controles de segurança à medida que novos modelos e agentes autônomos são incorporados às operações. Segundo a consultoria, muitas empresas ainda utilizam estruturas de governança criadas para softwares tradicionais, que não contemplam características específicas da inteligência artificial generativa.

Além dos controles técnicos, a Forrester recomenda que organizações invistam em cultura, capacitação e conscientização. Funcionários precisam compreender tanto o potencial quanto as limitações da IA — incluindo riscos relacionados à qualidade das respostas, vieses, alucinações e proteção de informações estratégicas.

Outro aspecto ressaltado pela consultoria é a crescente expectativa de clientes, parceiros e órgãos reguladores por maior transparência sobre o funcionamento dos sistemas de inteligência artificial. Demonstrar como modelos são treinados, monitorados e supervisionados passa a ser diferencial competitivo, além de contribuir para fortalecer a confiança no uso da tecnologia.

Segundo a Forrester, organizações que conseguirem integrar inovação, segurança e governança estarão mais preparadas para ampliar o uso da inteligência artificial sem comprometer conformidade, reputação ou continuidade dos negócios. Esse equilíbrio deve orientar a atuação dos líderes de segurança e risco nos próximos anos, especialmente diante da rápida evolução dos modelos generativos e da expansão dos agentes autônomos no ambiente corporativo.