Projetos de IA exigem cuidado com vieses e capacitação de gestores

Em painel durante o Febraban Tech, especialistas discutiram cuidados que projetos de inteligência artificial exigem de empresas

Author Photo
1:25 pm - 10 de agosto de 2022

“Nós temos que evitar a supervalorização da inteligência artificial (IA)”. Essa foi a provocação trazida por Dora Kaufman, professora da PUC-SP e pesquisadora especializada nos impactos éticos e humanos da inteligência artificial, durante o painel Inteligência Artificial na Decisão de Negócios dos Bancos, no Febraban Tech.

Durante sua fala, a pesquisadora alertou que ainda estamos vivendo o início do processo de implementação de ferramentas de inteligência artificial, e que muitos de seus impactos ainda não estão claros para nossas sociedades. Mesmo em segmentos como o setor financeiro, um dos mais acelerados na adoção de IA, o impacto dessas ferramentas deve ser analisado com cuidado.

“Nós estamos nos primórdios dessa tecnologia. Ela tem uma série de limitações, uma série de potenciais efeitos negativos que não estão equacionados”, pontuou. “Dentro de uma empresa, de um banco ou de instituição financeira, apesar de despontar com benefícios muito grandes, o processo de implementação não é simples.”

Para mitigar esses riscos, Dora propõe que organizações voltem sua atenção para a figura do “usuário-gestor”, aquele que é responsável por definir parâmetros e operar as ferramentas de IA. Esses gestores, ela pontuou, precisam compreender a lógica e funcionamento destas tecnologias para poderem “fazer as perguntas certas para o fornecedor de tecnologia” e saberem quais são os melhores caminhos de implementação para “evitar riscos”.

“Se você usa uma tecnologia de IA na sua operação e no seu relacionamento com stakeholder, e não conhece como ela funciona, você está correndo um risco que não sabe mensurar”, “O grande equívoco é considerar que a IA, por ser um processo automatizado de decisão, é soberana. Por todas as limitações dessa tecnologia, [a IA] é hoje um parceiro de especialista humano. Não considere [a IA] soberana.”

Inteligência artificial e subjetividade humana

Outro desafio da IA discutido durante o debate foi sua “contaminação” pela subjetividade humana e os efeitos disso. “Quando você monta um sistema de inteligência artificial, você tem várias etapas. Todas elas têm decisões humanas. Isso significa que a subjetividade humana permeia toda a montagem do sistema”, explicou Dora.

Na prática, isso significa que vieses humanos, incluindo vieses prejudiciais, como o racismo, podem estar incluídos em sistemas de IA desde sua criação. “Aí vem a importância da diversidade e inclusão”, disse Tânia Cosentino, presidente da Microsoft Brasil.

“Você pode perpetuar preconceitos se nossa área de desenvolvimento só tem grupos iguais, que geralmente são de homens brancos com formação semelhante. Você precisa de  grupos diversos e inclusivos, de multi-áreas, dentro do desenvolvimento de soluções e desenvolvimento de negócios para entender a diversidade dos clientes e se conectar com eles”, completou. “A incapacidade de fazer isso pode nos tirar do mercado.”

Ainda sobre o pronto, Eder Lima, líder de digital e experiência do Bradesco, reforçou. “A curadoria humana é necessária dentro da IA. Não é só treinamento, não é só uma questão de entender o que o humano falou e trazer o objetivo. Também tem o tom da resposta e como lidar com o cliente”.

Cultura de dados e qualificação

Ainda durante o painel, dois outros temas foram abordados como essenciais para uma estratégia bem-sucedida de inteligência artificial: a criação de uma cultura de dados e a qualificação dos profissionais para o uso de IA. Sem elas, criam-se barreiras para a adoção de IA.

Segundo Tânia, da Microsoft, a ausência de uma cultura de dados é um dos maiores desafios para organizações que planejam uma estratégia de IA. Sem uma cultura de dados, apontou, as ferramentas de IA até podem ser integradas aos sistemas empresariais, mas não se convertem em valor.

“Esse é, talvez, nosso maior desafio. A gente percebe que as instituições têm tecnologia, mas elas não as adotam em sua plenitude. Isso não permite que a gente maximize os lucros, que a gente consiga ter agilidade ou até mesmo redução de custos”, afirmou a executiva. “É importantíssimo as empresas trabalharem a cultura de dados.”

E essa cultura e dados, é claro, depende de talentos. Para os participantes do painel, essa é uma tarefa que deve acontecer fora das empresas, trazendo a capacitação para que mais pessoas embarquem no mundo da tecnologia, mas também interna, através da recapacitação de funcionários –  via projetos de upskilling e reskilling, por exemplo.

“A partir do momento que eu estou ganhando produtividade através do uso da inteligência artificial, estou eliminando uma série de funções repetitivas ou de baixa capacidade cognitiva”, disse Tânia Cosentino. “Até no aspecto cultural, para que essas pessoas não se sintam capacitadas e se sintam inimigas dessas tecnologias, eu preciso mostrar novos horizontes e trabalhar a capacitação desses colaboradores.”

Newsletter de tecnologia para você

Os melhores conteúdos do IT Forum na sua caixa de entrada.