Uso ético de IA: auditorias algorítmicas podem ser saída

Uma inteligência artificial (IA) responsável, é possível? Durante o VMware Explore*, que acontece em Las Vegas, nos Estados Unidos, especialistas aprofundaram suas considerações éticas em torno do desenvolvimento e implantação de sistemas de IA e concluíram que é preciso abordar a adoção de IA de maneira cuidadosa e transparente e que cabe aos humanos orientar sobre o uso ético de IA.

Meredith Broussard, professora associada na NYU e especialista em IA e ética, forneceu uma definição clara de IA, destacando que a tecnologia envolve a criação de modelos baseados em padrões de dados que podem ser usados para tomar decisões, previsões, gerar textos, imagens ou áudio.

Ela eliminou a noção de um iminente “apocalipse de robôs”, impulsionado pela IA e enfatizou que o objetivo da IA é auxiliar os humanos, não substituí-los. A especialista também ressaltou a importância de usar a ferramenta certa para a tarefa certa e reconhecer que os humanos têm um papel crucial em usar a IA de forma eficaz.

Meredith também destacou que os sistemas de IA tendem a discriminar por padrão e que é importante abordar ativamente questões de viés. Ela sugeriu focar na identificação de discriminação ilegal e realizar auditorias algorítmicas para avaliar e mitigar o viés em sistemas de IA.

“IA se baseia na reprodução de padrões. Quando criamos um sistema de IA a partir de um sistema de aprendizado de máquina, pegamos um monte de dados. Depois, alimentamos os dados no computador e ele cria modelos. Usamos esses modelos para coisas incríveis, mas todos os preconceitos dos dados do mundo real são refletidos nos dados que usamos para treinar o modelo e, portanto, o modelo também reproduzirá certos preconceitos”, alerta ela sobre os desafios de bias.

Segundo ela, a auditoria algorítmica é o processo de observar um algoritmo e avaliá-lo quanto a preconceitos. “Cathy O’Neil, que escreveu o livro Algoritmos de Destruição em Massa, tem uma empresa de auditoria algorítmica com a qual trabalhei. E uma das perguntas que eles fazem é o que pode dar errado? Esse é um bom ponto de partida. Qual é o seu pior cenário? E vamos ver até que ponto isso está realmente acontecendo. E geralmente não é tão ruim quanto você pensa e o problema pode ser mitigado”, revela.

Chris Wolf, VP do VMware AI Lab, compartilhou insights sobre a abordagem da VMware para a adoção de IA. Ele destacou a importância de entender a ética da IA e integrar tecnologias de IA em soluções, tanto interna quanto externamente.

“É fundamental ajustar e usar corretamente modelos de IA, especialmente em áreas como desenvolvimento de software. Nesse sentido, existe um alto valor na colaboração entre departamentos. É preciso olhar para a inclusão de equipes jurídicas e de segurança, para garantir uma implementação ética e compliance da IA”, observou.

Karen Silverman, CEO do Cantellus Group e membro do World Economic Forum Global Innovator and Experts Network, compartilhou sua experiência em ética e IA ao discutir o contexto e a natureza contextual da ética da IA. Ela mencionou a importância de criar conselhos de IA que reflitam os valores organizacionais e apoiem a implementação ética da IA.

Ela incentivou as organizações a pensarem de forma criativa sobre sua adoção de IA, levando em consideração fatores como processos repetitivos e IA generativa. “Naturalmente, o papel dos humanos na tomada de decisões é parte importante, além envolver equipes de comunicação interna para transmitir efetivamente políticas e práticas de IA”, reforçou.

Os especialistas reconheceram a natureza na evolução da IA e a responsabilidade que as organizações têm em integrar tecnologias de IA de maneira cuidadosa e ética. Os especialistas também enfatizaram a necessidade de se manter informado sobre mudanças regulatórias e abraçar um esforço coletivo para garantir que as tecnologias de IA sejam implantadas de forma responsável e transparente. Afinal, é o coletivo que vai reduzir riscos e trazer soluções efetivas para os problemas éticos de IA.

*A jornalista viajou a convite da VMware