Recursos/White Papers

Tecnologia

IBM promete abrir a caixa-preta da Inteligência Artificial

Novo serviço, disponível na nuvem, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta vieses no momento em que os sistemas estão em execução

Da Redação

Publicada em 19 de setembro de 2018 às 19h56

Resultados de uma nova pesquisa do Institute for Business Value da IBM revelam que, enquanto 82% das empresas estão considerando implementações de IA, 60% ainda temem problemas de responsabilidade e compliance e 63% não possuem habilidades internamente para gerenciar com confiança a tecnologia.. Naseada nesses dados, a companhia apresentou hoje uma nova tecnologia que dá às empresas mais transparência nos modelos de Inteligência Artificial (IA). Novos controles de detecção e mitigação de vieses na nuvem respondem à necessidade de mais transparência na tomada de decisões.

novo serviço, disponível na nuvem, com novos recursos de confiança e transparência, dá visibilidade sobre os parâmetros que a IA usa para chegar às recomendações e detecta automaticamente vieses no momento em que os sistemas estão em execução. 

Para apoiar a adoção de projetos em IA, a companhia irá disponibilizar para a comunidade open source ferramentas e materiais de educação para incentivar a colaboração global em torno do gerenciamento do viés na IA.

 "É hora de traduzir princípios em prática. Estamos dando nova transparência e controle às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta", Beth Smith, General Manager para Watson AI na IBM.

O serviço é executado na IBM Cloud e ajuda as organizações a gerenciar sistemas de IA de uma ampla variedade de players do setor. O IBM Services também trabalhará com as empresas para ajudá-las a aproveitar o novo serviço de software.

Como a tecnologia funciona
Os novos recursos de Confiança e Transparência da IBM trabalham com modelos construídos a partir de uma grande variedade de estruturas de Machine Learning e ambientes construídos com o sistemas como o Watson, Tensorflow, SparkML, AWS SageMaker e AzureM. Isso significa que as organizações podem aproveitar esses novos controles para a maioria dos códigos de IA e demais plataformas utilizadas por outras empresas que atuam neste mercado.

O serviço de software pode ser programado para monitorar os fatores de decisão de qualquer workflow de negócio, podendo ser personalizado para o uso específico das organizações. Além disso, ele é totalmente automatizado e explica a tomada de decisões ao longo da execução. É importante ressaltar que também recomenda automaticamente que dados sejam adicionados ao modelo para ajudar a atenuar qualquer tendência de viés detectada.

As explicações são fornecidas em termos fáceis de entender, mostrando quais fatores ajustaram a decisão em uma direção versus outra, apontando a confiança na recomendação e os fatores por trás dessa confiança. Além disso, os registros de precisão, desempenho, equidade do modelo, e a linhagem dos sistemas de inteligência artificial são rastreados e direcionados para atendimento ao cliente, por motivos regulatórios ou de conformidade – tais como o cumprimento da GDPR.

Todos esses recursos são acessados por meio de painéis de controle visuais, dando aos usuários de negócios a capacidade sem precedentes para compreender, explicar e gerenciar decisões indicadas por IA e reduzir a dependência de habilidades específicas desta tecnologia.

A IBM também está disponibilizando novos serviços de consultoria para ajudar as empresas a projetar processos de negócios e interfaces entre inteligência artificial e humanos para minimizar ainda mais o impacto do viés na tomada de decisões.

Capacitando a comunidade de código aberto para construir uma IA mais justa
Além disso, a IBM Research está disponibilizando para a comunidade de código aberto o toolkit de ferramentas AI Fairness 360, que consiste em uma biblioteca de novos algoritmos, códigos e tutoriais que fornecerá aos acadêmicos, pesquisadores e cientistas de dados ferramentas e conhecimento para integrar detecção de preconceito, enquanto constroem e implementam modelos de Machine Learning. 

Embora outros recursos de código aberto tenham se concentrado apenas na verificação de viés nos dados de treinamento, o toolkit de ferramentas IBM AI Fairness 360 criado pela IBM Research ajudará a verificar e atenuar o viés nos modelos de IA. Com isso, convidamos a comunidade global de código aberto a trabalhar em conjunto para promover a ciência e facilitar a abordagem do viés na IA. Mais detalhes sobre a tecnologia podem ser lidos neste link.

ia

Estudo revela prioridades e obstáculos para a implementação da IA convencional
De acordo com o IBM Institute for Business Value AI 2018 Report, há uma mudança significativa na forma como os líderes de negócios analisam o potencial da IA para impulsionar o valor comercial e o crescimento da receita.

Entre as principais descobertas estão que:

- 82% das empresas e 93% das empresas de alto desempenho estão considerando ou avançando na adoção da IA com foco na geração de receita.

- 60% temem questões relacionadas a confiança e 63% não possuem as habilidades para aproveitar o potencial da IA.

- Os CEOs percebem o maior valor da adoção da IA em TI, segurança da informação, inovação, atendimento ao cliente e gerenciamento de riscos.

- A adoção da IA é maior e provavelmente acelerará mais rapidamente em setores mais digitalizados, como os serviços financeiros.

O estudo ouviu cinco mil executivos sênior de empresas de diferentes portes. 



Reportagens mais lidas

Acesse a comunidade da CIO

LinkedIn
A partir da comunidade no LinkedIn, a CIO promove a troca de informações entre os líderes de TI. Acesse aqui