Quando a inteligência artificial não é tão inteligente…

É impossível frear o movimento global de inovação que, ao longo das últimas décadas, tem transformado profundamente a forma como nos relacionamos em sociedade.

Nos ambientes de trabalho, por exemplo, novos postos são criados e outros são suprimidos pela marcha da transformação digital. Novos modelos de gestão, mais eficientes, são desenvolvidos. Estruturas empresariais, mais enxutas, como as startups, têm condições de competir com grandes companhias e até criar novas lógicas de mercado graças a disrupção. Robôs, bots e sistemas inteligentes, cada vez mais, participam da realidade de organizações de todos os portes, ao lado (ou em substituição) a força de trabalho humana.

Sobre este último ponto, vale frisar que o potencial da inteligência artificial (IA ou AI – Artificial Intelligence) para diversos segmentos de mercado é quase que indiscutível. Pensando no universo do Direito, campo no qual tenho conhecimento, há experiências claras que comprovam o quanto a aplicação da AI em rotinas jurídicas pode trazer ganhos relacionados a organização, celeridade na análise de documentos e processos e até no apoio para a tomada de decisões de advogados.

Dito isso, e reconhecendo os méritos da tecnologia para o avanço social, nunca é demais temperar qualquer discussão com doses de equilíbrio. A inteligência artificial, ao contrário do que podem pensar os entusiastas da ideia de que a tecnologia tudo pode e tudo faz, também é passível de erros.

Uma reportagem recente demonstra o que muitos especialistas já vêm constatando: quando destinada para atividades específicas dentro de um campo de conhecimento limitado, os dispositivos de AI costumam ser muito eficientes. Todavia, quando a busca é pelo desenvolvimento de robôs “especialistas em tudo”, os resultados costumam ser bastante falhos, ao menos por enquanto. O texto ainda cita a perspectiva da cientista americana Janelle Shane, que explica que no futuro, o mais provável é que tenhamos várias soluções especializadas, ao invés de um único robô “faz tudo”.

O caso Amazon e o uso de AI em processos de recrutamento

Trazendo este debate para o universo trabalhista e, mais especificamente, para o setor de recrutamento e seleção, teve bastante repercussão o caso do sistema de inteligência artificial da Amazon que, criado para analisar currículos de candidatos e otimizar os processos de seleção da gigante da internet, acabou desenvolvendo um padrão que discriminava o gênero dos candidatos, dando preferência a homens durante a triagens dos aspirantes a uma vaga na Amazon.

Mesmo após reparos no sistema, os algoritmos acabaram desenvolvendo novos padrões que favoreciam a escolha de candidatos do sexo masculino – segundo fontes de reportagem que abordou o tema, isso ocorreu pelo fato de que, a base de dados utilizada para a aprendizagem do sistema ser composta majoritariamente por currículos de pessoas do gênero masculino, predominância comum no mercado da tecnologia – o que fez com que a Amazon desistisse do projeto.

Questões como essa evidenciam que a inteligência artificial não se constitui em um instrumento suficiente quando tratamos de um processo de tomada de decisões complexo, como na escolha dos candidatos que irão compor o quadro de vagas de uma empresa.

Além da necessidade de correção de problemas, a visão e capacidade analítica humana ainda é crucial para não tornarmos as rotinas que envolvem pautas mais subjetivas, excessivamente robotizadas, frias e, como vimos, passíveis de falhas capazes de comprometer a imagem institucional de uma organização.

A inteligência artificial e o direito

Voltando, novamente, para o universo do Direito, hoje em dia, é muito comum vermos notícias que, por um lado, apresentam previsões extremas para o futuro da advocacia – em alguns casos, fala-se até da extinção da figura do advogado. Por outro, há um tom de entusiasmo em relação à aplicação da inteligência artificial em diversas frentes do Direito.

Dentro desta segunda vertente, há desde o caso do aplicativo baseado em AI criado por estudante de 19 anos que venceu, nos Estados Unidos, milhares de apelações de trânsito; até o caso dos robôs-advogados que atingiram maior grau de precisão do que advogados humanos na análise de contratos legais de não divulgação (Non Disclosure Agreements – NDA).

Analisando estes dois casos, podemos reforçar dois pontos centrais deste artigo: o primeiro é o de que, de fato, em rotinas mais mecânicas e com caráter específico, a visão de especialistas em IA parece se confirmar e os robôs tem, sim, muito a contribuir. A contestação das multas de trânsito nos Estados Unidos, por exemplo, é um processo que envolve, basicamente, o preenchimento de formulários e a análise de perguntas simples.

No outro caso citado, entretanto, deixa claro que não é possível confiar, de modo exclusivo, na análise de um robô para questões que envolvem temas complexos como arbitragem, confidencialidade e processos de indenização.

Dentro desta questão, acredito que vale a pena assumir a visão da professora da Faculdade de Direito de Duke (que participou do estudo sobre a precisão de robôs na análise de contratos), Erika Buell. A especialista afirma que os novos advogados precisam assimilar as novas tecnologias para se tornarem melhores profissionais. A ideia, no entanto, não é substituir a percepção humana, mas aumentar a eficiência do trabalho de advogados e profissionais do Direito.

O papel humano: programação, revisão, criatividade e tomada de decisões

Para concluir, acredito que, dentro do contexto da transformação digital e da participação cada vez mais incisiva da Inteligência Artificial nos mais distintos campos da sociedade – inclusive no Direito e no meio trabalhista, citados aqui –, é papel do ser humano atuar, sempre, como um vigilante da qualidade dos processos realizados pelos robôs.

Precisamos contar com bons programadores, efetuar revisão constante de algoritmos e de decisões tomadas por sistemas de AI e, acima de tudo, não abrir mão da criatividade e da percepção humana na tomada de decisões relevantes.

Em artigo para o Portal ConJur, o advogado e professor universitário, Paulo de Sá Elias, nos atenta, por exemplo, para a questão de que os algoritmos (como vimos no caso da Amazon) não são imparciais, e, portanto, dependem da qualidade e transparência dos dados que os nutrem, reforçando que, há muito potencial no uso dos algoritmos, inclusive, para tornar a sociedade mais justa, mas que, para tanto, não podemos também, ser ingênuos e deslumbrados com as novas tecnologias.

Com esta visão, que vê a tecnologia como um suporte importante, mas não como um Santo Graal, acredito que temos muito mais chances de extrair o que a inovação pode nos trazer de melhor, que é a melhoria da vida humana e de nossas capacidades criativas.

*Ana Campos é Especialista em Aquisições e Reestruturações e sócia fundadora da empresa Grounds, empresa de consultoria inteligente especializada nas áreas contábil, tributária, trabalhista, previdenciária e financeira