Recursos/White Papers

Tecnologia

Seu fornecedor de segurança é honesto em relação à inteligência artificial?

Muitos fornecedores dizem que seus produtos usam IA ou Machine Learning, mas será que dizem a verdade? Veja como detectar eventuais mentiras

Roger A. Grimes, da CSO/EUA

Publicada em 28 de fevereiro de 2018 às 09h36

Novas tecnologias geram novas buzzwords, como Cloud, Bitcoin, Blockchain, Containers, microsserviços e assim por diante. A Inteligência Artificial (IA) vem sendo abordada há décadas como uma tendência tecnológica, mas só recentemente passou a ser, de fato, uma buzzword da indústria. Infelizmente, alguns fornecedores a estão associando aos seus produtos sem que possuam qualquer traço de IA entre os recursos oferecidos por seus produtos ou serviços. Ou, de forma bastante criativa, ampliam os limites do que possa vir a ser considerado IA. Talvez realmente não entendam o que a Inteligência Artificial seja, realmente, ou talvez estejam apenas seguindo recomendações de suas equipes de marketing. De qualquer forma, compradores como você precisam estar conscientes de que muitos dos produtos que dizem estar baseados em IA passam longe dela.

Tenho analisado mais fornecedores do que costumo fazer, e parece que todos pensam que ter a palavra IA na descrição do produto os levará a vender mais. Quando pergunto a eles como estão usando IA, no entanto, as repostas são superficiais e confusas. Algo frustrante para todos osoutros que realmente trabalharam duro para incorporar IA em seus produtos, como é o caso da Zenedge.

A diferença entre AI e os serviços baseados em regras
Os menciono porque esse assunto surgiu recentemente quando entrevistava Yuri Frayman, CEO da Zenedge, e Laurent Gil, cofundador e diretor de produto. Adiei a entrevista por algumas semanas e, no momento em que nos reunimos, a Zenedge havia sido comprada pela Oracle . Portanto,  por estarem em quiet period, devido às regras de aquisição, eles não podiam falar sobre Zenedge ou seus produtos.

Fiquei frustrado porque a Zenedge é uma empresa de segurança informática com IA real, e disse isso. Meu comentário casual desencadeou 30 minutos de brincadeiras a respeito do que veja a ser IA. Foi um debate intenso, para dizer o mínimo.

Na opinião de Laurent, "os serviços baseados em regras são como antivírus baseado em assinatura (AV). Eles já sabem o que esperar. Você tem um monte de pesquisadores que olham o que aconteceu no passado e, com base nisso, escrevem um monte de regras IF-THEN que identificam malwares conhecidos. As regras são tão boas quanto a sua pesquisa e o conhecimento do que a comunidade de hackers está fazendo. "Como os  hackers não compartilham com antecedência seus modelos de operação, então você está sempre atrasado", disse.

A verdadeira IA é preditiva. Reconhece padrões.   Não sei o que é isso, mas nós vimos algo semelhante, então vamos marcá-lo. Ou  nós nunca vimos isso antes, é uma anomalia, então vamos marcá-lo", explica.  A principal diferença entre os serviços baseados em regras e a IA é onde os sistemas estão concentrados. As regras são as decisões IF-THEN baseadas em dados passados. A IA trata de reconhecer anomalias simplesmente porque são novas. Estamos interessados ​​quando a máquina diz: "Eu não sei. Eu não vi isso antes. É quando AI é o mais poderosa e útil", completa.

"Uma maneira fundamental de apontar a diferença entre a IA e os SERVIÇOS baseados em regras, é que um mecanismo baseado em regras nunca melhorará por conta própria até que alguém atualize as regras. A IA melhora sua precisão quanto mais for usada. Quanto mais você o usa, melhor se torna. A adaptabilidade do modelo é o que faz o IA funcionar", diz ele.

Yuri concordou fortemente: "As regras olham basicamente para o passado. O Machine Learning pode prever o futuro".

Perguntei a Yuri, então, qual pergunta chave ele faria, como consumidor, para saber se o fornecedor está sendo sincero ou não sobre o uso de IA. "Eu perguntaria como eles iriam lidar com a detecção e manuseio de ataques zero day. Eles não têm história. Não há regras que você possa escrever para o inesperado. A resposta que eles darão revelará se o produto é baseado em regras ou realmente usa IA ".

IAsegurança

IA versos IA é o futuro da pirataria e da defesa

E isso será fundamental, porque segundo Yuri, "o futuro da pirataria [e da defesa] é máquina versus máquina. Parece cenário de Jules Verne, mas os atacantes já estão usando IA para nos atacar, para descobrir nossa detecção".

"Bots, bons e maus, já estão usando a IA para agir como seres humanos. Eles estão mudando seu comportamento, usando IA para derrotar proteção e detecção, então precisamos da IA ​​para lutar contra eles", completou  Laurent.

Essas declarações me surpreenderam, mas ao mesmo tempo as entendi completamente. Eles estavam certos. É máquina versus máquina. Nâo demorará muito para que que o embate entre o bem e o mal chegue ao mundo dos computadores.

A ideia de máquina versus máquina está sendo usada pelos serviços baseados em regras, há muito tempo. Por exemplo, sou grande fã do VirusTotal , um site para o qual você pode enviar o hash de qualquer arquivo e descobrir se ele é marcado como malicioso por qualquer uma das dezenas de programas de software antivírus. Um programa antivírus pode perder alguma coisa, mas dezenas raramente erram, não por muito tempo. O problema é que quando um malware começa a ser detectado no VirusTotal, ele se auto atualiza para evitar a detecção. Isso é máquina versus máquina no mundo das regras. Pegue o mesmo conceito e aplique-o ao mundo baseado em IA. Já está começando a acontecer. Vamos precisar de mais e melhores sistemas de IA para que possamos nos defender.

Muitas empresas de segurança já afirmam ter IA quando o que elas realmente possuem são muitas regras e mecanismos baseados em regras. A IA está chegando porque precisamos dela para lutar contra a IA maliciosa que está sendo interposta no nosso caminho.

Para estarmos seguros, só precisamos ser claros sobre quais fornecedores já usam IA de fato, e quais não.



Reportagens mais lidas

Acesse a comunidade da CIO

LinkedIn
A partir da comunidade no LinkedIn, a CIO promove a troca de informações entre os líderes de TI. Acesse aqui