Inteligência artificial e o Dia Internacional da Mulher: somos todas meninas!

Author Photo
4:25 pm - 08 de março de 2018

A comprovação é desnecessária. Sempre foi, aliás. A boa notícia é que já entramos na fase do senso comum. Mesmo que negligenciada pelos mais resistentes (ou limitados), é indiscutível que a diversidade e, no caso, o protagonismo feminino no local de trabalho (inclusive no topo do mercado de trabalho) se faz indispensável.

A afirmação resulta de uma série de razões, dentre as quais destaca-se, por seu caráter objetivo, a superioridade dos resultados financeiros de companhias que investiram na diversidade em contraposição às suas concorrentes que se apegaram à pasteurização em gênero. Celebremos: “Women make better boards!”.[1] Vivas! A diversidade entrou no mainstream!

O propósito de celebração, aliás, surgiu por meio da inteligência de Clara Zetkin, alemã, ativista, que em 1909 propôs a criação de um dia para pontuar as lutas femininas. Naquele tempo os direitos almejados eram mais óbvios. O voto e suas sufragistas são o exemplo mais célebre. Passados 110 anos de lutas e conquistas, a tarefa se vê mais difícil. Os alvos passaram a ser móveis. A resistência é silenciosa.  Exemplo marcante desse novo cenário são os recentes escândalos de assédio sexual em Hollywood, cuja essência, o ridículo e a insensatez foram tão bem descortinados por Oprah Winfrey em seu discurso ao receber o prêmio “Cecil B. DeMille” na cerimônia de entrega dos Globo de Ouro.[2]

É nesse ponto da discussão de ações de gênero que assistimos ao surgimento de uma série de iniciativas na área da inteligência artificial (“IA”) que, naturalmente, vêm acompanhadas de questionamentos acerca das implicações éticas e jurídicas associadas à substituição de humanos por robôs artificialmente inteligentes.  E não é apenas a IA que desponta. Surge também a inteligência feminina artificial, já que em alguns casos os robôs são “meninas”.

Isabela, a versão feminina e em português do polivalente Watson, da IBM, tem chamado atenção por sua capacidade de interação e por suas respostas assertivas. Isabela, como ela própria diz, tem ainda a capacidade de fazer uso de feedbacks para ficar cada vez mais inteligente.

Dra. Luzia, robô advogada criada pela startup Legal Labs, cujo nome foi escolhido em homenagem às mulheres e ao primeiro fóssil humano (feminino) encontrado nas Américas, está sendo usada por procuradores para a gestão de processos de execução fiscal.

Carol, uma verdadeira executiva, criada pela TOTVS, tem como objetivo principal ampliar a capacidade de análise de dados e a velocidade na tomada de decisões.  Nesse cenário, a Carol atua também como uma assistente virtual, respondendo a perguntas e oferecendo dicas para o desenvolvimento de negócios de diferentes segmentos.

A IA, assim como as “meninas” acima, consistem de algoritmos de aprendizagem e generalização cuja a finalidade é simular as capacidades humanas. Sem entrar na discussão a respeito dos benefícios e potenciais ameaças que a IA traz para a sociedade e para o dia a dia das pessoas, é fundamental, ainda mais nesse estágio inicial de adoção da tecnologia, sempre lembrar que somos nós humanos que criamos o algoritmo. Em outras palavras, são os humanos, ou as inteligências naturais, que “ensinam a máquina” ou que estabelecem os critérios para que a máquina aprenda.

Assim, e como tudo que faz parte do mundo não natural, a IA é derivação direta da mente, engenho e valores humanos. Isso inclui nossas características e, de forma menos óbvia, nossos preconceitos.[3] Ocorre que humanos são regidos por valores éticos, morais e normas jurídicas. IAs não. Sendo assim, e desde que considerada tão somente a perspectiva ética, IAs são meras consequências da interação ou relação de seus criadores com essas normas e valores.

Em outras palavras, IAs são reflexos de nós mesmos, inclusive de nosso invólucro ético e jurídico. Isabela, Dra. Luzia e Carol são reflexos de seus criadores e dos dados que as alimentam. Além disso, as decisões que elas tomam resultam daquilo que lhes foi ensinado: certo ou errado.  E mais, o que é certo ou errado para elas estará diretamente relacionado aos valores e à ética de seus criadores.

Se isso é verdade, um robô pode, em tese, ser machista? Seria um desserviço ao 8 de março, é verdade, porém os preconceitos não seriam seus, mas sim de seus algoritmos (e também dos dados de que elas se alimentam). Como lidar com isso?  Voltemos à questão da ética.

Ética, e vamos nos ater a ela somente, vem do grego ethos e significa aquilo que pertence ao “bom costume”, “costume superior”, ou “portador de caráter“. Refere-se a princípios universais de adequação de conduta. Àquilo que deve ser feito como decorrência única da razão.

Se estamos permitindo a computadores que tomem decisões, como vamos assegurar que essas sejam éticas (e justas) no sentido indicado, acima?  Há uma série de requisitos mínimos. Destaco alguns: (i) transparência na geração de IA – preceitos éticos claros estabelecidos e comunicados pelos seus criadores; (ii) regras claras de segurança, privacidade e confiabilidade; e, aquela que mais nos interessa para essa discussão (iii) garantia de diversidade da equipe responsável pelo desenvolvimento da IA.  Afinal, se a IA absorve preconceitos, que haja garantia que o seu ambiente de criação seja neutro.

Meninas artificiais não votam. É mais provável que nunca venham a votar. Mas meninas artificiais nasceram numa época em que, graças aos esforços das meninas naturais, os termos “diversidade” e “compliance” fazem parte da ordem do dia. Para as meninas artificiais, e o que eles representam, é muito mais fácil fazer com que geradores de AI se comportem de forma ética e justa e, ainda por cima, demonstrem esse compromisso, do que foi a conquista do voto pelas sufragistas.

Hoje é nosso dia, inteligências naturais! Mas hoje também é dia de dizer bem-vindas ao time para Isabela, Dra. Luzia e Carol! e tranquiliza-las no sentido que 2018 é bem melhor do que 1909. Afinal, Somos Todas Meninas!

[1] São inúmeras as indicações, pesquisas e trabalhos nesse sentido. Por exemplo: https://www.grantthornton.global/en/insights/articles/diverse-boards-in-india-uk-and-us-outperform-male-only-peers-by-us$655bn/ e https://www.hsph.harvard.edu/ecpe/why-diversity-matters-women-on-boards-of-directors/

[2] https://www.youtube.com/watch?v=LyBims8OkSY

[3] A reprodução de preconceitos foi demonstrada recentemente por estudo da Universidade de Princeton: https://engineering.princeton.edu/news/2017/04/18/biased-bots-artificial-intelligence-systems-echo-human-prejudices

Dulce ArtesePor Dulce Artese 
Sócia de Artese e Advogados
Head – Empreendendorismo e Inteligência Artificial
Graduada pela Universidade Cândido Mendes – RJ.
Ex – Head do jurídico do Internet Group, IG e do Grupo ABC.
Business Law pela Northwestern University – Chicago, EUA.
Master of Laws (LL.M.) em direito societário pelo INSPER – SP.
Empreendedora na área de empoderamento feminino (M3TM).
Experiência de 18 anos como gestora de departamentos jurídicos.

Newsletter de tecnologia para você

Os melhores conteúdos do IT Forum na sua caixa de entrada.