O que pensam especialistas sobre Shadow AI, o uso desconhecido de IA nas empresas?

Sabemos que os avanços em Inteligência Artificial estão revolucionando todos os aspectos das organizações. No entanto, ainda não compreendemos completamente os riscos aos quais estamos expostos nesta nova era ditada pelo ChatGPT. É sobre isso que trata o “Shadow AI“, termo já utilizado para se referir à implementação não oficial ou não supervisionada de sistemas e aplicativos de Inteligência Artificial (IA) em uma organização, sem a aprovação ou o conhecimento das equipes de TI ou segurança.

Assim como o já conhecido conceito de Shadow IT, o Shadow AI surge devido à necessidade de os funcionários serem mais produtivos e eficientes em seus trabalhos, neste caso, com o auxílio das novas soluções de inteligência artificial. Diferentes especialistas concordam que essa situação apresenta riscos significativos de segurança e gestão de tecnologia para a organização.

“Shadow AI é o crescimento exponencial no uso de soluções de IA generativa em ambientes corporativos sem controle, validação, autorização ou mesmo conhecimento por parte do departamento de TI”, define Thiago Viola, diretor de IA na IBM América Latina.

“A evolução do mercado de IA tradicional para a IA generativa se deve à enorme quantidade de dados disponíveis e à popularização de várias ferramentas que tornaram a IA acessível para os consumidores em geral. Os principais riscos do Shadow AI são problemas de segurança e vazamento de dados confidenciais da empresa. Mas tão sensível quanto isso é a exposição dos dados dos clientes.”

André Assis, CEO da XLab, empresa sediada em São Paulo que desenvolve plataformas escaláveis para personalização, com foco no mercado de Comunicação opina sobre o tema. “Shadow AI é uma variação de um conceito já comum para nós, que trabalhamos com tecnologia, que é o Shadow IT. Quem trabalha no setor de tecnologia já aprendeu sobre a necessidade de governança das iniciativas de TI. Com a chegada da IA, a necessidade de governança torna-se ainda mais evidente devido à diversidade de ofertas disponíveis no mercado. A oferta é muito ampla, e o acesso a essas soluções está se tornando cada vez mais simples.”

“Cada profissional já experimentou alguma das múltiplas ferramentas de IA disponíveis no mercado. E quando veem como essa tecnologia permite otimizar seu trabalho ou os processos internos, eles a incorporam sem dizer nada”, acrescenta Jorge Lukowski, diretor global de marketing e comunicação da consultoria de tecnologia Neoris.

“O que as empresas precisam entender é que não há problema em os funcionários procurarem maneiras de realizar suas tarefas da melhor forma possível, talvez estejam delegando a esses sistemas atividades monótonas que tiram tempo que poderiam investir em outros projetos onde podem agregar valor. É aí que entra nosso papel como líderes, nosso dever é encontrar maneiras de evitar que essa curiosidade por novas tecnologias não afete a segurança da empresa.”

Shadow IA: gestão e governança de IA Generativa

Os três executivos destacaram a importância de controlar os riscos e garantir uma explicação clara dos modelos usados pela organização. Nesse sentido, o primeiro desafio está relacionado à segurança da própria informação: quando um programador decide usar IA sem um protocolo estabelecido, ele não tem conhecimento sobre como as informações que ele compartilha com a inteligência artificial serão usadas e armazenadas.

Portanto, as empresas devem procurar soluções capazes de gerenciar e governar os modelos usados na IA Generativa. Para tal, devem existir políticas claras para o uso responsável das ferramentas e dados de IA generativa. E essas políticas devem ser comunicadas a todos os funcionários, a fim de mitigar qualquer risco de uso indevido das informações.

“Dentro das iniciativas que podem ser tomadas para evitar o Shadow AI, a primeira delas, e uma das mais importantes, sem dúvida, é a educação: campanhas e iniciativas de conscientização sobre o que é o Shadow AI”, destaca Assis.

Lukowski sugere: “Algumas estratégias que podem servir a outras empresas são: estabelecer políticas sobre seu uso; treinar os profissionais sobre os benefícios e os riscos do uso de IA, promover a colaboração entre os diversos setores e TI, e trabalhar na cultura da cibersegurança“.

IA para negócios

O desafio parece ser encontrar um equilíbrio saudável entre inovação e segurança, “A evolução da IA tradicional para a IA Generativa, chegando à IA para Negócios, obriga as empresas a se tornarem mais sólidas em gestão, ética e segurança, ao mesmo tempo que continuam incentivando os funcionários a buscarem inovação e agilidade, mas com parâmetros bem estabelecidos”, destaca Viola.

Segundo o diretor de IA na IBM América Latina, a importância da IA para Negócios está crescendo, a tendência do uso da IA Generativa nas empresas, mas com conceitos sólidos, gestão e governança claras, e um foco na entrega de valor. “O ideal é que as equipes evoluam paralelamente ao avanço da tecnologia, e isso é alcançado por meio da formação. Não estou me referindo apenas à capacitação técnica, mas também à ética e ao uso responsável das plataformas de IA Generativa.”

A gestão e governança da IA Generativa apresentam desafios significativos em termos de segurança e ética. No entanto, estratégias de mitigação de riscos, treinamento e conscientização dos funcionários, juntamente com uma abordagem equilibrada entre inovação e segurança, são fundamentais para aproveitar todo o potencial dessa tecnologia emergente.