Home > Gestão

Por que a ciência de dados deve levantar preocupações éticas?

Crescente poder preditivo cria questões morais que empresas terão que considerar. Afinal, tecnologia pode criar ambientes de discriminação

David Linthicum, InfoWorld

22/07/2019 às 18h41

Foto: Shutterstock

Imagine as apostas esportivas. Hoje, muitos apostadores utilizam estatísticas, modelos matemáticos e outras ferramentas relativamente primitivas para ganhar vantagens. Agora pense no mundo da tecnologia.

Com o advento da IoT (Internet das Coisas), sistemas de ponta e computação em nuvem, combinados com o acesso a todas as informações necessárias para determinar o resultado de um evento esportivo, alcançamos uma taxa de sucesso de 90% para quem pode aproveitar as tecnologias. Que cassino do mundo apostaria sabendo que há 90% de chances de perder?

Anteriormente, os cientistas já sabiam como desenvolver esquemas preditivos na teoria, mas as tecnologias necessárias ainda não haviam sido inventadas ou, mais provavelmente, estavam fora de seu alcance financeiro. Hoje, com a computação em nuvem, ciência de dados e inteligência artificial ganhando cada vez mais popularidade, ações eticamente duvidosas podem se tornar comuns.

O nosso crescente poder preditivo cria questões morais que as empresas terão que considerar, como a capacidade de um empregador determinar a probabilidade de um candidato ser usuário de drogas em recuperação ou detectar os riscos de contratar alguém que tenha potencialmente comportamentos violentos. Apesar de parecem interessantes, essas aplicações podem ser perigosas, criando ambientes de preconceito e discriminação.

É claro que as mesmas tecnologias podem ser utilizadas para o bem, como na detecção de acidentes vasculares cerebrais ou ataques cardíacos antes que aconteçam, mas como toda moeda tem seus dois lados, especialistas têm demonstrado preocupação sobre o assunto.

A cada dia, novas tecnologias surgem e tantas outras são aperfeiçoadas e popularizadas. Além disso, nossa compreensão do potencial da ciência de dados também está aumentando. Nesse cenário, quais serão os limites de atuação? Como lidaremos com as próximas questões éticas? Parece que é hora de torcer para fazermos as apostas certas.

 

Junte-se a nós e receba nossas melhores histórias de tecnologia. Newsletter Newsletter por e-mail