Por um código de ética para os desenvolvedores

Primeiro não faça nenhum mal. Esta é a mensagem subjacente do Juramento de
Hipócrates, historicamente seguido por médicos
para mostrar que serão éticos no cuidado da vida.
Encanadores, trabalhadores da construção civil, policiais e quase todo
profissional cujo trabalho impacta diretamente o cidadão deve obedecer a algum tipo
de código de conduta ética.

Há uma exceção bastante notável: a tecnologia. Embora existam códigos
de conduta específicos de organizações e empresas – como essas diretrizes da Associação para Máquinas de Computação (ACM) e do Instituto de Engenheiros Elétricos e Eletrônicos – Ciência da Computação (IEEE-CS) – não há um conjunto
abrangente de padrões que inclua todo o setor. Talvez seja porque, como
escreve Yonatan Zunger no Boston Globe, “[…] o campo da Ciência da Computação, ao contrário de outras ciências, ainda não enfrentou sérias
consequências negativas para o trabalho que seus profissionais fazem”.

Mas, dados os detalhes ainda emergentes sobre o papel da Cambridge Analytica na construção de software para ajudar os clientes a manipular os eleitores, isso pode estar prestes a mudar. A Ciência da Computação e o desenvolvimento de software
enfrentaram problemas de ética no passado, mas parece que esses
problemas não estão acontecendo apenas com mais frequência, mas também
estão aumentando em escala e impacto.

Em 2015, testes independentes revelaram que os engenheiros da
Volkswagen programavam carros para enganar os padrões de emissões. Na
sequência da eleição presidencial dos EUA em 2016, o Facebook – entre
outros – está em meio a uma epidemia de notícias falsas e está agora
ligado ao uso de informações pessoais pela Cambridge Analytica. Os EUA
estão lutando para lidar com a invasão russa em eleições e o papel
desempenhado pelas plataformas de mídia social, como Twitter e Facebook.
E o atual presidente, Donald Trump, fez campanha sobre a promessa de
construir sobre o existente (ou construir um novo) registro muçulmano
para rastrear os pessoas dessa religião.

O bem contra o mal?
Estes são apenas alguns exemplos de como o software pode ser usado
para fins nefastos. Não há como saber definitivamente todos os
possíveis resultados do desenvolvimento e uso de cada peça de tecnologia
ou cada linha de código. Portanto, cabe aos que projetam e criam os
produtos, os pacotes de software, os aplicativos e as soluções que
usamos diariamente para fazer a coisa certa. Isso é muita pressão.

Também é difícil dizer o que é certo e errado se você for pressionado
a cumprir os prazos ou se seu emprego estiver em risco. Um código de
ética pode fornecer contexto e estrutura para os profissionais
recorrerem, diz Dave West, chefe de produto da empresa de treinamento
Scrum.org. E enquanto ele gostaria de ver uma coisa dessas, West diz que
é compreensível que um grupo tão diversificado não seja capaz de
concordar em todos os aspectos do que tal código implicaria.

“Adoraria ver um código de ética padronizado da indústria. Temos o
nosso próprio que se enquadra na nossa missão de melhorar a profissão de
software de criação. No centro disto estão os nossos cinco principais
valores de abertura, coragem, respeito, foco e compromisso. E nós
sentimos que isso é uma base sólida para qualquer um voltar atrás se
eles estiverem se sentindo inseguros sobre qualquer parte de suas
responsabilidades de trabalho, porque eles podem dar um passo atrás e
olhar para aqueles valores e dizer, ‘Estou fazendo a coisa certa aqui?
com base nessas coisas em que acredito? ‘”diz West.

O debate sobre ética no desenvolvimento de software tem durado tanto
quanto a existência da profissão. Pode ser quase impossível avaliar
todas as aplicações potenciais de uma tecnologia, boas e ruins, e isso é
a beleza e o horror da questão, diz Shon Burton, fundador e CEO da
empresa de recrutamento HiringSolved, que usa inteligência artificial
para ajudar as empresas a identificar talentos diversificados.

Qualquer ferramenta pode ser uma arma
“Qualquer ferramenta pode ser uma arma dependendo de como você a usa.
Não há como saber todas as aplicações possíveis de uma tecnologia. Para
nós, usando inteligência artificial e automação – as coisas em que
posso pensar agora que estamos perto disso -, posso ver o que é bom e o
que é ruim, e ambos são facilmente acessíveis. Para as nossas
aplicações, podemos ajudar os clientes a selecionar diversos candidatos.
Mas também vemos que ele poderia ser usado para filtrar pessoas com
diferentes etnias, raças, gênero. Nós temos um código de conduta interno
que todos nós aderimos. Mas entendemos o potencial e as consequências
não intencionais ”, diz Burton.

“Se a segurança veio primeiro, a API do Facebook usada pela Cambridge
Analytica, que causou alarme generalizado entre os engenheiros desde o
seu lançamento em 2010, provavelmente nunca teria visto a luz do dia”,
afirma Zunger.

Na ausência de um conjunto de padrões éticos em toda a indústria, os
indivíduos – e até mesmo algumas entidades corporativas – estão tornando
público o que está por trás de seus valores. Em dezembro, o movimento
NeverAgain.tech fez uma promessa de resistir a “construir um banco de
dados de pessoas com base em suas crenças religiosas constitucionalmente
protegidas. Nós nos recusamos a facilitar deportações em massa de
pessoas que o governo acredita serem indesejáveis ​​”, diz o juramento.
Agora são reunidas mais de 2,5 mil assinaturas.

Pode ser difícil saber onde a linha existe entre o certo e o errado
neste contexto, mesmo que você esteja caminhando. Embora um código de
ética padronizado possa ser uma solução, pode ser mais importante
ensinar as pessoas a fazer as perguntas certas, diz West, da Scrum.org.

“Pessoalmente, adoraria ver mais educação sobre o ensino de ética do
que atualmente disponível, especialmente em um contexto profissional, em
vez de apenas um curso sobre teoria, porque a ética isoladamente não
funcionará, a menos que faça parte de um padrão profissional mais amplo.
No entanto, também há um problema no fato de que, muitas vezes, os
indivíduos não podem criar software sozinhos e também não tomam essas
decisões “erradas” de uma só vez, mas de forma incremental “, diz West.

Burton acredita que Inteligência Artificial, Machine Learning e
automação podem realmente ajudar a resolver esses problemas éticos,
liberando os seres humanos para contemplar mais plenamente os impactos
da tecnologia que estão construindo.

“No momento, há muita pressão para cumprir prazos e há pressão do
mercado para liberar produtos, o que está consumindo os desenvolvedores,
os CIOs, os CTOs e outros líderes de TI”, diz Burton. “Se pudermos
automatizar mais processos e aliviar alguns dos esforços humanos para
que eles possam aplicar um pensamento crítico melhor, esperamos resolver
alguns desses problemas antes que eles se tornem críticos”, diz ele.

Não há uma “resposta certa” aqui, e um código de ética certamente não
vai resolver todos os problemas éticos. Mas pode ser um bom começo se
indivíduos e organizações quiserem aproveitar o grande poder da
tecnologia para criar soluções que sirvam ao bem maior.