Fazer login no IT Mídia Redefinir senha
Bem-vindo de volta,
Digite seu e-mail e clique em enviar
Ainda não tem uma conta? Cadastre-se
Salvar em Nova pasta de favoritos

+

Criar pasta
Salvar Escolher Pasta
Governança de IA: por que executivos devem se preocupar?
Home > Notícias

Governança de IA: por que executivos devem se preocupar?

E se os algoritmos falharem? E se forem mal utilizados pelos executivos? Estratégia organizacional com metas pode ajudar

Rodrigo Kramper*

25/06/2021 às 18h01

IA, inteligência artificial
Foto: Adobe Stock

Todos os dias ouvimos como as empresas investem bilhões de dólares
anualmente em tecnologias como o Big Data e a Inteligência Artificial
na busca pela melhoria de produtos, da experiência dos consumidores e da
lucratividade. Mas, os conselhos de administração e executivos sabem, de fato,
como essas inteligências funcionam? Quais são os algoritmos por trás delas?
Quais são seus limites?

Muito se fala sobre algoritmos enviesados ou discriminatórios e
seus impactos para os consumidores e para a imagem das empresas, mas há também
as soluções de IA voltadas para planejamento estratégico e cenários de
mercados, que visam suportar executivos em suas tomadas de decisão sobre os
destinos do negócio.

E se os algoritmos falharem? E se forem mal utilizados pelos
executivos? Os principais impactados serão acionistas, stakeholders,
funcionários e todo o ecossistema ao seu redor. Por isso, essas questões já
preocupam o mercado, a começar por órgãos reguladores. Nos EUA, por exemplo, já
existe no setor financeiro o uso de normas como a SR 11-7 do Federal Reserve,
que descreve a necessidade de um gerenciamento de risco adequado para
perdas ocasionadas por decisões incorretas pelo mal uso ou erro em modelos.

Movimentos de especialistas apontam para a necessidade de pareceres
anuais sobre o uso de IA nas organizações. Análogo ao conceito de certificações
executivas sobre as demonstrações financeiras e controles internos, a
certificação em IA demandaria que executivos atestassem seu conhecimento sobre
a adequação de modelos utilizados na organização desde o desenvolvimento,
passando pela implementação, até chegar ao uso.

Hoje, independente das exigências dos órgãos reguladores ou da
promulgação de leis que exijam uma certificação executiva sobre a IA, é
importante que os conselhos de administração e executivos tracem para a empresa
uma Governança de IA, que tem como foco trazer a definição de uma estratégia
organizacional com metas definidas, garantindo que a  tecnologia esteja
alinhada aos resultados esperados do negócio, à privacidade e governança de
dados, à transparência do ponto de vista da “explicabilidade” dos modelos, seus
usos e limitações, à atenção no desenvolvimento dos modelos para que sejam não
discriminatórios e, principalmente, que possam ser auditáveis.

Ao fazer isso, as organizações certamente guiarão seus negócios com
maior confiança e estarão mais preparadas e maduras em relação a IA quando
acionistas e stakeholders demandarem maior controle sobre esse ambiente ou
ainda quando surgirem exigências regulatórias ou leis tornando essas ações
obrigatórias.

* Rodrigo Kramper é líder da prática de Advanced Data & Analytics Solutions da ICTS Protiviti

Snippets HTML5 default Intervenções CW
Vai um cookie?

A CIO usa cookies para personalizar conteúdo e anúncios, para melhorar sua experiência em nosso site. Ao continuar, você aceitará o uso. Para mais detalhes veja nossa Política de Privacidade.

Este anúncio desaparecerá em:

Fechar anúncio

15