Recursos/White Papers

Tecnologia

6 premissas para a adoção da inteligência artificial

É preciso pesquisar os impactos potenciais das ferramentas antes de partir para a implantação

Clint Boulton, CIO/EUA

Publicada em 10 de abril de 2018 às 08h40

O hype sobre Inteligência Artificial (IA) atingiu seu auge em 2017, com CIOs, consultores e acadêmicos divulgando a tecnologia como potencialmente automatizando qualquer coisa, desde operações de negócios e de TI até conexões com clientes. No entanto, durante o primeiro trimestre de 2018, várias organizações de mídia relataram os perigos da AI, que envolve o treinamento de computadores para executar tarefas que normalmente exigem inteligência humana.

"Tem havido muito hype na mídia sobre isso e isso é apenas jornalistas tentando estender o hype falando sobre o lado negativo", diz Thomas Davenport, professor de destaque da Babson College.

Talvez as preocupações não sejam novas e muito persistentes, variando de medos sobre preconceitos raciais, de gênero e outros a drones automatizados que se descontrolam com consequências potencialmente letais.

Uma semana após o MIT Technology Review publicar uma reportagem intitulada "Quando a IA finalmente matar alguém, quem será o responsável?" levantando a questão de quais leis se aplicam caso um carro autônomo mate alguém, um carro autônomo Uber atingiu e matou uma mulher no Arizona. O tempo, como dizem, é tudo.

Aqui, detalhamos algumas das preocupações relacionadas à adoção da IA, seguidas de recomendações para executivos que desejam começar a testar a tecnologia.

1. Rude
Conforme aprendemos com o desastre com o Chatbot Tay, da Microsoft, os sistemas de mensagens de conversação podem ser sem sentido, indelicados e até ofensivos. Executivos devem ter cuidado com o que eles usam e como eles o usam. Só é preciso uma explosão ofensiva de um chatbot para destruir a imagem amigável de uma marca.

2. Má percepção
Embora desenvolvida por humanos, a Inteligência Artificial, ironicamente, não é muito parecida com humanos, segundo o cientista do Google e professor da Universidade de Stanford, Fei-Fei Li, em uma coluna para o The New York Times. Li observou que, embora a percepção visual humana seja profundamente contextual, a capacidade da IA ​​de perceber imagens é bastante estreita.

Li diz que os programadores de IA provavelmente terão que colaborar com especialistas de domínio - um retorno às raízes acadêmicas do campo - para fechar a lacuna entre a percepção humana e a máquina.

3. O enigma da caixa preta
Muitas empresas querem usar IA, inclusive para algumas atividades que podem fornecer uma vantagem estratégica, mas empresas em setores como os serviços financeiros devem ter cuidado para explicar como a IA chega às suas conclusões. Pode ser lógico inferir que um proprietário que administra suas contas de energia elétrica usando produtos como o termostato Nest pode ter mais fluxo de caixa livre para pagar suas hipotecas. Mas permitir que uma IA incorpore tal qualificação é problemático aos olhos dos reguladores, diz Bruce Lee, chefe de operações e tecnologia da Fannie Mae.

Sem uma compreensão clara de como o software de inteligência artificial detecta padrões e observa os resultados, as empresas com riscos e regulamentações na linha ficam imaginando a força com que podem confiar nas máquinas. “Contexto, ética e qualidade dos dados são questões que afetam o valor e a confiabilidade da IA, particularmente em indústrias altamente reguladas”, diz Dan Farris, co-presidente da área de tecnologia do escritório de advocacia Fox Rothschild. "A implantação da inteligência artificial em qualquer setor altamente regulamentado pode criar problemas de conformidade regulamentar".

IA

4. Viés etnográfico e socioeconômico
Durante a execução de um projeto que usava imagens de carros do Google Street View para determinar a composição demográfica de vilas e cidades nos EUA, a Ph.D. da Universidade de Stanford, Timnit Gebru, ficou preocupada com preconceitos raciais, de gênero e socioeconômicos em sua pesquisa. A revelação levou Gebru a se unir à Microsoft, onde ela está trabalhando para descobrir preconceitos de inteligência artificial, de acordo com a Bloomberg.

Até mesmo os assistentes virtuais de AI são sobrecarregados por preconceitos. Você já se perguntou por que a tecnologia por trás dos assistentes virtualis como Alexa, Siri e Cortana são femininas? "Por que estamos generalizando essas tecnologias" auxiliares "como mulheres?" Rob LoCascio, CEO da LivePerson, software de atendimento ao cliente, conta à CIO.com. "E o que isso diz sobre as nossas expectativas em relação às mulheres no mundo e no local de trabalho? Que as mulheres são inerentemente 'ajudantes', que desempenham funções administrativas; que são boas em receber ordens?"

5. IA alavancado em hacks e ataques mortais
Os rápidos avanços da IA ​​significam riscos de que usuários mal-intencionados explorem a tecnologia para montar ataques automatizados de hackers, imitar seres humanos para espalhar desinformação ou transformar drones comerciais em armas direcionadas, segundo um relatório de 98 páginas elaborado por 25 pesquisadores técnicos e de políticas públicas de Cambridge. Universidades de Oxford e Yale.

"Todos concordamos que há muitas aplicações positivas da inteligência artificial", disse à Reuters Miles Brundage, pesquisador do Instituto de Futuro da Humanidade de Oxford. “Havia uma lacuna na literatura em torno da questão do uso malicioso.” O New York Times e o Gizmodo também cobriram este relatório, intitulado “O uso mal-intencionado da inteligência artificial: previsão, prevenção e mitigação”.

6. AI nos transformará em gatos domésticos
Depois, há a teoria da escravidão. O empresário Elon Musk, criador da Tesla e SpaceX, advertiu que os humanos correm o risco de se tornarem "gatos domésticos" dependentes da inteligência e das capacidades superiores da inteligência artificial. Mais recentemente, o historiador israelense Yuval Noah Harari postulou que o surgimento da IA ​​que automatiza tudo poderia criar uma "classe global inútil". Em tal mundo, a democracia estará ameaçada porque os humanos não se compreendem tão bem quanto as máquinas.



Reportagens mais lidas

Acesse a comunidade da CIO

LinkedIn
A partir da comunidade no LinkedIn, a CIO promove a troca de informações entre os líderes de TI. Acesse aqui