Recursos/White Papers

Gestão

Por um código de ética para os desenvolvedores

Com grandes poderes vêm grandes responsabilidades. Como os detalhes do escândalo do Facebook e da Cambridge Analytica revelam, a indústria de TI ainda não sabe muito bem como lidar com dilemas éticos

Sharon Florentine, CIO/EUA

Publicada em 03 de abril de 2018 às 08h33

Primeiro não faça nenhum mal. Esta é a mensagem subjacente do Juramento de Hipócrates, historicamente seguido por médicos para mostrar que serão éticos no cuidado da vida. Encanadores, trabalhadores da construção civil, policiais e quase todo profissional cujo trabalho impacta diretamente o cidadão deve obedecer a algum tipo de código de conduta ética.

Há uma exceção bastante notável: a tecnologia. Embora existam códigos de conduta específicos de organizações e empresas - como essas diretrizes da Associação para Máquinas de Computação (ACM) e do Instituto de Engenheiros Elétricos e Eletrônicos - Ciência da Computação (IEEE-CS) - não há um conjunto abrangente de padrões que inclua todo o setor. Talvez seja porque, como escreve Yonatan Zunger no Boston Globe, “[...] o campo da Ciência da Computação, ao contrário de outras ciências, ainda não enfrentou sérias consequências negativas para o trabalho que seus profissionais fazem”.

Mas, dados os detalhes ainda emergentes sobre o papel da Cambridge Analytica na construção de software para ajudar os clientes a manipular os eleitores, isso pode estar prestes a mudar. A Ciência da Computação e o desenvolvimento de software enfrentaram problemas de ética no passado, mas parece que esses problemas não estão acontecendo apenas com mais frequência, mas também estão aumentando em escala e impacto.

Em 2015, testes independentes revelaram que os engenheiros da Volkswagen programavam carros para enganar os padrões de emissões. Na sequência da eleição presidencial dos EUA em 2016, o Facebook - entre outros - está em meio a uma epidemia de notícias falsas e está agora ligado ao uso de informações pessoais pela Cambridge Analytica. Os EUA estão lutando para lidar com a invasão russa em eleições e o papel desempenhado pelas plataformas de mídia social, como Twitter e Facebook. E o atual presidente, Donald Trump, fez campanha sobre a promessa de construir sobre o existente (ou construir um novo) registro muçulmano para rastrear os pessoas dessa religião.

O bem contra o mal?
Estes são apenas alguns exemplos de como o software pode ser usado para fins nefastos. Não há como saber definitivamente todos os possíveis resultados do desenvolvimento e uso de cada peça de tecnologia ou cada linha de código. Portanto, cabe aos que projetam e criam os produtos, os pacotes de software, os aplicativos e as soluções que usamos diariamente para fazer a coisa certa. Isso é muita pressão.

Também é difícil dizer o que é certo e errado se você for pressionado a cumprir os prazos ou se seu emprego estiver em risco. Um código de ética pode fornecer contexto e estrutura para os profissionais recorrerem, diz Dave West, chefe de produto da empresa de treinamento Scrum.org. E enquanto ele gostaria de ver uma coisa dessas, West diz que é compreensível que um grupo tão diversificado não seja capaz de concordar em todos os aspectos do que tal código implicaria.

“Adoraria ver um código de ética padronizado da indústria. Temos o nosso próprio que se enquadra na nossa missão de melhorar a profissão de software de criação. No centro disto estão os nossos cinco principais valores de abertura, coragem, respeito, foco e compromisso. E nós sentimos que isso é uma base sólida para qualquer um voltar atrás se eles estiverem se sentindo inseguros sobre qualquer parte de suas responsabilidades de trabalho, porque eles podem dar um passo atrás e olhar para aqueles valores e dizer, 'Estou fazendo a coisa certa aqui? com base nessas coisas em que acredito? '”diz West.

O debate sobre ética no desenvolvimento de software tem durado tanto quanto a existência da profissão. Pode ser quase impossível avaliar todas as aplicações potenciais de uma tecnologia, boas e ruins, e isso é a beleza e o horror da questão, diz Shon Burton, fundador e CEO da empresa de recrutamento HiringSolved, que usa inteligência artificial para ajudar as empresas a identificar talentos diversificados.

Matrix

Qualquer ferramenta pode ser uma arma
“Qualquer ferramenta pode ser uma arma dependendo de como você a usa. Não há como saber todas as aplicações possíveis de uma tecnologia. Para nós, usando inteligência artificial e automação - as coisas em que posso pensar agora que estamos perto disso -, posso ver o que é bom e o que é ruim, e ambos são facilmente acessíveis. Para as nossas aplicações, podemos ajudar os clientes a selecionar diversos candidatos. Mas também vemos que ele poderia ser usado para filtrar pessoas com diferentes etnias, raças, gênero. Nós temos um código de conduta interno que todos nós aderimos. Mas entendemos o potencial e as consequências não intencionais ”, diz Burton.

“Se a segurança veio primeiro, a API do Facebook usada pela Cambridge Analytica, que causou alarme generalizado entre os engenheiros desde o seu lançamento em 2010, provavelmente nunca teria visto a luz do dia”, afirma Zunger.

Na ausência de um conjunto de padrões éticos em toda a indústria, os indivíduos - e até mesmo algumas entidades corporativas - estão tornando público o que está por trás de seus valores. Em dezembro, o movimento NeverAgain.tech fez uma promessa de resistir a “construir um banco de dados de pessoas com base em suas crenças religiosas constitucionalmente protegidas. Nós nos recusamos a facilitar deportações em massa de pessoas que o governo acredita serem indesejáveis ​​”, diz o juramento. Agora são reunidas mais de 2,5 mil assinaturas.

Pode ser difícil saber onde a linha existe entre o certo e o errado neste contexto, mesmo que você esteja caminhando. Embora um código de ética padronizado possa ser uma solução, pode ser mais importante ensinar as pessoas a fazer as perguntas certas, diz West, da Scrum.org.

“Pessoalmente, adoraria ver mais educação sobre o ensino de ética do que atualmente disponível, especialmente em um contexto profissional, em vez de apenas um curso sobre teoria, porque a ética isoladamente não funcionará, a menos que faça parte de um padrão profissional mais amplo. No entanto, também há um problema no fato de que, muitas vezes, os indivíduos não podem criar software sozinhos e também não tomam essas decisões "erradas" de uma só vez, mas de forma incremental ", diz West.

Burton acredita que Inteligência Artificial, Machine Learning e automação podem realmente ajudar a resolver esses problemas éticos, liberando os seres humanos para contemplar mais plenamente os impactos da tecnologia que estão construindo.

"No momento, há muita pressão para cumprir prazos e há pressão do mercado para liberar produtos, o que está consumindo os desenvolvedores, os CIOs, os CTOs e outros líderes de TI", diz Burton. "Se pudermos automatizar mais processos e aliviar alguns dos esforços humanos para que eles possam aplicar um pensamento crítico melhor, esperamos resolver alguns desses problemas antes que eles se tornem críticos", diz ele.

Não há uma "resposta certa" aqui, e um código de ética certamente não vai resolver todos os problemas éticos. Mas pode ser um bom começo se indivíduos e organizações quiserem aproveitar o grande poder da tecnologia para criar soluções que sirvam ao bem maior.



Reportagens mais lidas

Acesse a comunidade da CIO

LinkedIn
A partir da comunidade no LinkedIn, a CIO promove a troca de informações entre os líderes de TI. Acesse aqui