Alerta: uso de IA em processos seletivos traz riscos para áreas de RH

A inteligência artificial (IA) tem sido usada cada vez mais em processos seletivos de RH nas empresas, pois facilita a triagem de currículos, a redação de descrições de cargos e a realização de tarefas administrativas cotidianas. Mas ela deve ser usada com cuidado pois oferece riscos de justiça, segurança e privacidade, alerta a ESET.

Viés algorítmico, falta de transparência, privacidade e segurança dos dados podem acabar se tornando um problema para departamentos de recursos humanos das empresas, diz a empresa de segurança. O uso da tecnologia envolve questões críticas sobre justiça, preconceito e privacidade.

A empresa diz que o principal risco do uso da IA em processos de seleção é o viés algorítmico. Se um modelo for treinado em um conjunto de dados históricos, os vieses históricos podem ser transferidos para o resultado.

Veja também: Ferramentas de IA usam imagens de crianças brasileiras sem consentimento

Por exemplo, se uma empresa usa IA para procurar candidatos para um cargo de médico e os dados com os quais ela foi treinada mostrarem que 80% dos médicos que historicamente se encaixavam no cargo eram do sexo masculino, é mais provável que ela favoreça esses candidatos em detrimento das candidatas do sexo feminino, mesmo que elas sejam igualmente adequadas ao cargo.

Além disso, a IA pode superestimar o uso de palavras-chave e métricas ao analisar os currículos enviados. Diferentemente de um ser humano, um sistema de IA pode não captar as habilidades interpessoais e outras experiências ou traços de caráter que tornam alguém um candidato mais desejável para o cargo.

“A IA apresenta imensas oportunidades para transformar os processos de recrutamento (…).No entanto, a adoção generalizada também cria riscos relacionados a preconceitos, privacidade e responsabilidade”, diz em comunicado Camilo Gutierrez Amaya, chefe do Laboratório de Pesquisa da ESET América Latina.

Para o especialista, no entanto, isso não significa que a tecnologia deva ser abandonada. “Ao implementar as melhores práticas, as organizações podem superar esses desafios e aproveitar a IA de forma responsável para atingir seus objetivos de contratação, mantendo os princípios de justiça, inclusão e autenticidade”, diz.

Melhores práticas

Segundo a empresa, garantir a confidencialidade e a segurança dos dados dos candidatos com medidas de segurança cibernética é fundamental para proteger os direitos de privacidade da empresa e dos indivíduos, bem como cumprir leis como a LGPD. As organizações devem estabelecer estruturas claras de responsabilidade para lidar com erros algorítmicos ou violações éticas, diz a empresa.

De acordo com a ESET, as organizações precisam adotar abordagem holística para a IA. Isso inclui gestão ética, priorizando a justiça, a transparência e a responsabilidade no desenvolvimento e na implantação dos recursos em todos os sistemas de TI. Isso pode incluir a aplicação de algoritmos de detecção de preconceito e avaliações periódicas de justiça para identificar e abordar padrões discriminatórios.

Além disso, deve-se avaliar periodicamente o desempenho dos algoritmos de IA para identificar e mitigar vieses ou erros. Estabelecer mecanismos de feedback para que os candidatos relatem preocupações ou forneçam informações sobre suas experiências com os processos de recrutamento.

Esse monitoramento permite que o processo seja identificado e retificado. E é fundamental incentivar a colaboração entre profissionais de RH, cientistas de dados, especialistas em ética e especialistas em direito para garantir uma abordagem multidisciplinar de como a IA funciona.

Deve-se, ainda, fornecer treinamento à equipe de recrutamento e à gerência de contratação sobre o uso ético da IA no recrutamento, incluindo a conscientização das estratégias de mitigação de preconceito e a importância da privacidade e segurança dos dados. Por fim, deve-se atualizar sobre os requisitos legais e regulatórios relacionados à IA em contratações e adaptar as políticas e práticas da empresa para garantir a conformidade total.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!