“Risco não é a IA, mas perdermos a compreensão do mundo”, diz sócio da Tripla

Se na era da inteligência artificial (IA) os dados são o novo ouro, o esperado é que toda empresa possua um cofre para armazenar a matéria-prima e um ourives qualificado para definir as regras sob as quais esse ouro será guardado. No entanto, essa não parece ser a realidade da maioria das organizações. Em agosto deste ano, uma pesquisa realizada pela Workiva revelou que 61% delas carecem de dados de alta qualidade e 58% ainda não têm políticas de segurança e governança.

Para João Lucas Saldanha, sócio e advisor em Governança Algorítmica, Privacidade e Compliance da Tripla, essa deficiência, além de prejudicar os negócios, também esbarra em questões éticas, como inclusão, privacidade e diversidade. As práticas de governança algorítmica precisam levantar discussões, como quem um carro autônomo salvaria diante de um acidente e, ainda, se seria ético um robô eliminar um ser humano para proteger outro.

Trazendo o dilema para o cotidiano, é a partir dessa governança que as empresas mantêm o controle sobre: para quem chegam suas ofertas, quais perfis são indicados para contratação e até quem tem acesso aos dados de seus clientes. “Olhar para esses algoritmos é compreender e administrar as escolhas que eles estão fazendo. Caso contrário, o mundo não vai acabar porque usamos IA, mas porque, de repente, não vamos mais entender como as coisas funcionam”, afirma.

Leia mais: CGI.br se posiciona contra implementação de taxa de rede no Brasil

Dentro da Tripla, o executivo lidera a vertical de Governança e Compliance, voltada exclusivamente a auxiliar os clientes na adequação a normativas e legislações, além de fomentar essa ótica de governança, criando metodologias e práticas próprias para que suas ferramentas sigam os mesmos parâmetros éticos da empresa.

O propósito da gestão é, além de iniciar essas conversas éticas, garantir a segurança das organizações, que podem, ao escolher uma IA pouco confiável, por exemplo, acabar adotando um regime tributário que as obrigue a pagar mais impostos do que deveriam ou até mesmo sonegar por acidente. “A gente nunca vai conseguir acompanhar em tempo real, mas podemos tentar antecipar criando princípios e diretrizes, porque se eu tentar regular fazendo microgerenciamento, não funciona também.”

Embora a IA tenha acelerado a procura pelo serviço, o advisor reforça que não são apenas os modelos de LLM que precisam ser monitorados, mas sim todos os tipos de algoritmo utilizados pelas empresas. “É importante lembrar que toda IA é um algoritmo, mas nem todo algoritmo é uma IA.”

A ideia de criar a divisão existia desde o início da companhia, mas só foi lançada oficialmente em 2024, quando os sócios perceberam que o mercado estava maduro para buscar soluções Gaas (Governança as a Service). Agora, com a aprovação do Marco Regulatório da IA, a expectativa é de que a procura por serviços de governança cresça ainda mais, impulsionada por um perfil de clientes mais atentos às imposições legais decorrentes da ausência de governança, como ocorreu com a Lei Geral de Proteção de Dados (LGPD). No entanto, essa não tem sido a regra.

“Existe um outro tipo de cliente, aquele que está um passo à frente e se preocupa com as consequências de não ter um programa de governança. E aí nos procuram, por exemplo, para criar políticas de uso consciente ou para auxiliar na escolha de plataformas”, explica.

Para esse perfil de executivo, a preocupação é que as tecnologias possam replicar e amplificar mazelas sociais. A visão é compartilhada por Saldanha, que, além de sócio da Tripla, atua como pesquisador e professor de Privacidade e Proteção de Dados. Para ele, a construção do futuro desejado passa também por democratizar as decisões em torno dos algoritmos. “Ainda que a gente fale muito de democratização de acesso, nada disso importa se as tecnologias estiverem sendo utilizadas por aqueles que ocupam posição de poder.”

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!