Home > Tendências

6 premissas para a adoção da inteligência artificial

É preciso pesquisar os impactos potenciais das ferramentas antes de partir para a implantação

Clint Boulton, CIO/EUA

10/04/2018 às 8h17

IA_724156513 (1).jpg
Foto:

O hype sobre Inteligência Artificial
(IA) atingiu seu auge em 2017, com CIOs,
consultores e acadêmicos divulgando a tecnologia como potencialmente
automatizando qualquer coisa, desde operações de negócios e de TI até
conexões com clientes. No entanto, durante o primeiro trimestre de 2018,
várias organizações de mídia relataram os perigos da AI, que envolve o
treinamento de computadores para executar tarefas que normalmente exigem
inteligência humana.

"Tem havido muito hype na mídia sobre
isso e isso é apenas jornalistas tentando estender o hype falando sobre
o lado negativo", diz Thomas Davenport, professor de destaque da Babson
College.

Talvez as preocupações não sejam novas e muito
persistentes, variando de medos sobre preconceitos raciais, de gênero e
outros a drones automatizados que se descontrolam com consequências
potencialmente letais.

Uma semana após o MIT Technology Review
publicar uma reportagem intitulada "Quando a IA finalmente matar alguém,
quem será o responsável?" levantando a questão de quais leis se aplicam
caso um carro autônomo mate alguém, um carro autônomo Uber atingiu e
matou uma mulher no Arizona. O tempo, como dizem, é tudo.

Aqui,
detalhamos algumas das preocupações relacionadas à adoção da IA,
seguidas de recomendações para executivos que desejam começar a testar a
tecnologia.

1. Rude
Conforme aprendemos com o desastre com o Chatbot Tay, da Microsoft,
os sistemas de mensagens de conversação podem ser sem sentido,
indelicados e até ofensivos. Executivos devem ter cuidado com o que eles
usam e como eles o usam. Só é preciso uma explosão ofensiva de um
chatbot para destruir a imagem amigável de uma marca.

2. Má percepção
Embora
desenvolvida por humanos, a Inteligência Artificial, ironicamente, não é
muito parecida com humanos, segundo o cientista do Google e professor
da Universidade de Stanford, Fei-Fei Li, em uma coluna para o The New
York Times. Li observou que, embora a percepção visual humana seja
profundamente contextual, a capacidade da IA ​​de perceber imagens é
bastante estreita.

Li diz que os programadores de IA provavelmente
terão que colaborar com especialistas de domínio - um retorno às raízes
acadêmicas do campo - para fechar a lacuna entre a percepção humana e a
máquina.

3. O enigma da caixa preta
Muitas
empresas querem usar IA, inclusive para algumas atividades que podem
fornecer uma vantagem estratégica, mas empresas em setores como os
serviços financeiros devem ter cuidado para explicar como a IA chega às
suas conclusões. Pode ser lógico inferir que um proprietário que
administra suas contas de energia elétrica usando produtos como o
termostato Nest pode ter mais fluxo de caixa livre para pagar suas
hipotecas. Mas permitir que uma IA incorpore tal qualificação é
problemático aos olhos dos reguladores, diz Bruce Lee, chefe de
operações e tecnologia da Fannie Mae.

Sem uma compreensão clara de
como o software de inteligência artificial detecta padrões e observa os
resultados, as empresas com riscos e regulamentações na linha ficam
imaginando a força com que podem confiar nas máquinas. “Contexto, ética e
qualidade dos dados são questões que afetam o valor e a confiabilidade
da IA, particularmente em indústrias altamente reguladas”, diz Dan
Farris, co-presidente da área de tecnologia do escritório de advocacia
Fox Rothschild. "A implantação da inteligência artificial em qualquer
setor altamente regulamentado pode criar problemas de conformidade
regulamentar".

IA

4. Viés etnográfico e socioeconômico
Durante
a execução de um projeto que usava imagens de carros do Google Street
View para determinar a composição demográfica de vilas e cidades nos
EUA, a Ph.D. da Universidade de Stanford, Timnit Gebru, ficou preocupada
com preconceitos raciais, de gênero e socioeconômicos em sua pesquisa. A
revelação levou Gebru a se unir à Microsoft, onde ela está trabalhando
para descobrir preconceitos de inteligência artificial, de acordo com a
Bloomberg.

Até mesmo os assistentes virtuais de AI são
sobrecarregados por preconceitos. Você já se perguntou por que
a tecnologia por trás dos assistentes virtualis como Alexa, Siri e Cortana são
femininas? "Por que estamos generalizando essas tecnologias" auxiliares
"como mulheres?" Rob LoCascio, CEO da LivePerson, software de
atendimento ao cliente, conta à CIO.com. "E o que isso diz sobre as
nossas expectativas em relação às mulheres no mundo e no local de
trabalho? Que as mulheres são inerentemente 'ajudantes', que desempenham
funções administrativas; que são boas em receber ordens?"

5. IA alavancado em hacks e ataques mortais
Os
rápidos avanços da IA ​​significam riscos de que usuários
mal-intencionados explorem a tecnologia para montar ataques
automatizados de hackers, imitar seres humanos para espalhar
desinformação ou transformar drones comerciais em armas direcionadas,
segundo um relatório de 98 páginas elaborado por 25 pesquisadores
técnicos e de políticas públicas de Cambridge. Universidades de Oxford e
Yale.

"Todos concordamos que há muitas aplicações positivas da
inteligência artificial", disse à Reuters Miles Brundage, pesquisador do
Instituto de Futuro da Humanidade de Oxford. “Havia uma lacuna na
literatura em torno da questão do uso malicioso.” O New York Times e o
Gizmodo também cobriram este relatório, intitulado “O uso
mal-intencionado da inteligência artificial: previsão, prevenção e
mitigação”.

6. AI nos transformará em gatos domésticos
Depois,
há a teoria da escravidão. O empresário Elon Musk, criador da Tesla e
SpaceX, advertiu que os humanos correm o risco de se tornarem "gatos
domésticos" dependentes da inteligência e das capacidades superiores da
inteligência artificial. Mais recentemente, o historiador israelense
Yuval Noah Harari postulou que o surgimento da IA ​​que automatiza tudo
poderia criar uma "classe global inútil". Em tal mundo, a democracia
estará ameaçada porque os humanos não se compreendem tão bem quanto as
máquinas.

Junte-se a nós e receba nossas melhores histórias de tecnologia. Newsletter Newsletter por e-mail