Recursos/White Papers

Tecnologia

Vinte anos depois do Deep Blue, o que a Inteligência Artificial pode realmente fazer por nós?

A IBM construiu o Deep Blue para ganhar no xadrez - e desde então a IA evoluiu muito. Mas ainda estamos longe de ter sistemas capazes de explicar como chegaram a uma determinada conclusão

Da Redação, com IDG News Service

Publicada em 13 de maio de 2017 às 13h47

Em 11 de maio de 1997, um computador mostrou que poderia superar um ser humano em uma atividade complexa: jogar. O humano era o campeão mundial de Xadrez Garry Kasparov, e o computador era o Deep Blue da IBM, que tinha começado a vida na Universidade Carnegie Mellon como um sistema chamado ChipTest.

Um dos criadores da Deep Blue, Murray Campbell, conversou com o IDG News Service sobre as outras coisas que os computadores aprenderam a fazer, tão bem ou melhor do que os seres humanos, e o que isso significa para o nosso futuro. O que se segue é uma versão editada dessa conversa.

IDGNS: É verdade que você e a Deep Blue se juntaram à IBM ao mesmo tempo?

Murray Campbell: Não é exatamente verdade. Nosso grupo da Carnegie-Mellon University, em Pittsburgh, juntou-se à IBM em 1989, mas só adotamos o nome Deep Blue cerca de um ano depois.

IDGNS: E o Deep Blue era uma tarefa de tempo integral?

MC: Desde quando comecei a trabalhar com ele, até o jogo com o campeão do mundo de xadrez, em 1997, meu trabalho era exclusivamente para construir e melhorar o Deep Blue.

IDGNS: Dizem que uma das razões pelas quais o Deep Blue venceu Kasparov foi que ele tinha um bug que fazia com que ele fizesse uma estranha jogada que, de alguma forma,  deixava o campeão nervoso.

MC: Não tenho certeza de que isso seja uma teoria válida. O que aconteceu foi que, no final do primeiro jogo, o Deep Blue estava destinado a perder. Ele tinha uma posição perdedora, mas o jogo poderia ter continuado por algum tempo. Kasparov teria que provar que sabia como conquistar a posição, o que é claro, tenho certeza de que ele era capaz de fazer. Mas devido a um bug, o Deep Blue fez um movimento aleatório, e o movimento aleatório foi um movimento particularmente ruim, e assim, Kasparov respondeu também de forma inusitada.

Houve alguma especulação, em algum momento, de que isso teria causado a Kasparov uma má impressão do que o Deep Blue poderia e não fazer no jogo de xadrez. Acho que é apenas especulação.

deepblue

IDGNS: Como surgiu o bug? Você foi capaz de descobrir o que o causou?

MC: Sim, nós o identificamos e o reparamos, não tão rápido a ponto de estar corrigido no segundo jogo. Mas, naturalmente, o bug não se repetiu no segundo jogo. O que mostra que ele era muito raro.

Ele só aparecia sob certas circunstâncias. Foi dada ao Deep Blue uma atribuição de tempo para calcular um movimento e, a certa altura, quando esse tempo se esgotou, ele optou por fazer um movimento aleatório. Conseguimos identificar quatro dos cinco gatilhos que poderiam disparar o bug, mas perdemos um deles. Assim, ele acabou se repetindo uma outra vez.

IDGNS: Desde esse jogo, vimos o DeepMind, da Alpha Go, vencer alguns dos jogadores mais fortes do mundo e vimos o Watson, da IBM, vencer os campeões do Jeopardy. Quais são os próximos grandes desafios para os quais a IA está pronta?

MC: Os jogos de tabuleiro têm servido muito bem para demonstração da IA, tanto no xadrez quanto no Go, mas acho que os jogos de tabuleiro tiveram mais ou menos o seu dia, e é hora de passar para problemas do mundo real, problemas mais complexos para a IA. Jogos como xadrez são muito bem definidos: tudo está lá bem na frente de você, você tem todas as informações, você sabe exatamente quais movimentos são possíveis, você sabe o que é o xeque-mate e assim por diante.

O mundo real não é assim: há complexidade em cada ação. Eu acho que devemos acrescentar alguma complexidade adicional aos desafios e problemas que nós olhamos.

Ainda há desafios interessantes em jogos de computador. Por exemplo, vi recentemente que um programa tinha vencido um grupo de humanos no poker e isso é interessante porque adiciona esta informação imperfeita como a chamamos, informações ocultas onde seus oponentes conhecem seus cartões, mas você não. Então essa é uma maneira de adicionar complexidade. Há outras.

Mas, a longo prazo, queremos estar lidando com problemas não onde estamos tentando criar um sistema que possa fazer tão bem ou melhor o que as pessoas fazem. O que realmente queremos são sistemas que complementam as pessoas de uma forma interessante e ajudam as pessoas a tomar decisões .

deepblue

No xadrez, obviamente, nosso objetivo com o Deep Blue, pelo menos inicialmente, era provar que era possível construir um sistema que pudesse jogar como os melhores jogadores do mundo. No caminho, nós construímos este sistema que jogava xadrez de uma maneira completamente diferente do modo de jogar xadrez de um humano. Era evidente que a abordagem humana tinha suas forças e suas fraquezas, e a abordagem de computador que usamos tinha seus pontos fortes e fracos. Combinando os dois juntos, na verdade, foi mostrado que era possível fazer a máquina jogar melhor do que um humano.

Vinte anos depois isso ainda é verdade, então acredito que a lição que aprendemos é aplicável a praticamente todos os problemas do mundo real que podemos pensar.

Por exemplo, em cuidados de saúde, um médico pode olhar para um paciente e fazer um diagnóstico e chegar a um tratamento. Mas e se esse médico tiver um assistente que pensa sobre o problema de forma diferente dele, tem habilidades diferentes, pode olhar para toda a literatura médica recente e todos os ensaios de drogas em curso, e produzir diagnósticos alternativos ou tratamentos alternativos que o especialista humano, o médico, pode considerar e aceitar, ou rejeitar? A IA permitirá alargar o seu pensamento e com isso, obter um nível de desempenho maior do que você conseguiria ter sozinho.

IDGNS: É uma vantagem deste sistema de Inteligência Aumentada, onde é o médico que toma a decisão final, deixando claro para fins legais onde a responsabilidade reside?

MC: Às vezes os problemas não são de vida ou morte. Se você decidir instalar um sistema que recomenda um filme ou um livro para alguém, se você cometer um erro nessa recomendação, não chega a ser o fim do mundo. Já alguns tipos de decisões são realmente importantes. Por muitas décadas ainda será aconselhável ter seres humanos decidindo. Sendo os donos da palavra final nessas decisões. Mas quanto mais informados eles estiverem sobre alternativas razoáveis​​ e as vantagens e desvantagens dessas alternativas, acho que melhor o mundo será.

IDGNS: Você encontrou o bug no Deep Blue, mas a última geração de IAs parece muito mais inescrutável e difícil de auditar....

MC: É talvez um dos problemas mais críticos em IA hoje. Nós temos vistos alguns sucessos baseados em Deep Learning, grandes redes neurais que são treinadas em problemas, e são incrivelmente úteis, mas que são grandes caixas pretas. Eles não se explicam de maneira útil hoje.

Há projetos de pesquisa tentando mudar isso, mas, por exemplo, mesmo o Deep Blue, que não era baseado em uma rede neural, mas em uma grande busca através de bilhões de possibilidades, não tinha realmente nenhuma maneira útil de descrever exatamente por que fez os movimentos que fez. Ao receber uma recomendação do Deep Blue você teria muito trabalho para descobrir por que ele fez essa recomendação. E acho que isso continua verdade para os sistemas de IA modernos. No grupo com o qual trabalho, um dos principais problemas de pesquisa é o fato da IA continuar impenetrável e indecifrável, não permitindo aos sistemas expliquem de que  modo eles podem ser mais eficazes. Teríamos mais confiança  nesses se pudessem explicar seu raciocínio.

IDGNS: Que abordagens vocês estão usando para isso?

MC: Existem abordagens que usam o aprendizado de máquina para ajudar o aprendizado de máquina a se descrever. Você tem um sistema que toma decisões ou lhe dá uma previsão, talvez a custo do processamento de uma enorme quantidade de dados, o que torna muito difícil para nós descobrir qual raciocínio levou à decisão sugerida pelo sistema e por que ela seria a melhor decisão a ser tomada. Então você pode construir um sistema que, dado um monte de exemplos de decisões e explicações, pode aprender a chegar a explicações que são úteis. Essa é uma abordagem.

Existem algumas abordagens padrão de aprendizado de máquina que usam sistemas mais interpretáveis, ​​que se baseiam em regras que podem ser consideradas, porque as regras são muito intuitivas para as pessoas. Eles podem trabalhar com as regras: se a temperatura é maior do que tal, você vai se sentir desconfortável.

Há limites. Alguns desses problemas do mundo real são complexos o suficiente para que um simples conjunto de regras não seja suficiente, e eu acho que é por isso que este é um tópico de pesquisa tão importante, com muitas pessoas olhando para ele.

Estamos tentando chegar a explicações verdadeiras, mas também úteis. Esse é o trade-off para o qual estamos olhando.

IDGNS: Nós aludimos à idéia de responsabilidade legal mais cedo. Há algum trabalho sendo feito para tornar estas explicações suficientemente confiáveis ​​e ligadas ao raciocínio do sistema IA que poderiam ser invocados em um processo legal?

MC: Essa é uma questão que provavelmente está além do meu conhecimento, porque envolve outras disciplinas, mas penso que  para as decisões que importam, em última análise, precisamos que as pessoas sejam responsáveis ​​pelas próximas décadas. Recomendações de um computador, juntamente com explicações dessas recomendações, são ferramentas úteis, mas são apenas ferramentas, e no final, um humano precisa assumir a responsabilidade da tomada de decisão.

IDGNS: Conte-nos sobre as abordagens em que você está trabalhando para ajudar os computadores a trabalhar com as pessoas e os domínios em que podem ser usados?

MC: Falamos um pouco sobre cuidados de saúde. Deixe-me dar-lhe um exemplo específico. Usando abordagens de aprendizagem profunda, nós da IBM desenvolvemos um sistema de reconhecimento de imagem para câncer de pele. Então, dada uma fotografia de, digamos, uma lesão na pele, ele será capaz de classificar ou identificar essa lesão com grande precisão. Maior precisão do que os especialistas humanos.

Mas não entende o contexto completo do paciente, e por isso é apenas uma peça de informação que precisa ser fornecida ao médico. Eles vêem o paciente em pessoa, eles vêem sua história, e eles vêem a recomendação, digamos, de que "esta lesão tem 85 por cento de chance de ser câncer e deve ser alvo de uma biopsia". Essa é a recomendação, mas o médico pode dizer: "Oh, bem, neste caso eu sei que não é um problema porque ...". Esse é um exemplo.

Também estou bastante interessado nas tecnologias voltadas para a qualidade de vida da terceira idade. Equipar as casas de uma população envelhecida com sensores, Internet das Coisas e, em seguida, sistemas baseados em IA para monitoramento desses sensores à procura de sinais de alerta de comportamentos anormais que podem indicar um problema, trazendo isso à atenção dos cuidadores.

Um dos maiores déficits do mundo hoje é que não sabemos onde concentrar nossa atenção. Há tanta informação que se tivéssemos um sistema que pudesse nos ajudar a concentrar nossa atenção em coisas que são importantes, seria uma ótima maneira de construir um sistema colaborativo.

IDGNS: Qual é a coisa que mais o excita sobre o campo da IA ​​no momento que você acha que terá o maior efeito em sua vida?

MC: Espero que antes de me aposentar, essas tecnologias em prol da qualidade de vida do idoso estejam maduras, para que eu possa tirar proveito delas.

À medida que a IA avança, alguns dos sistemas que existem agora de uma forma limitada vão se tornar muito mais úteis no mundo real.

Um dos grandes problemas que vejo com toda a explosão da Deep Learning é que as soluções tendem a se concentrar em problemas que você poderia dizer que são mais perceptivos: você obtém uma imagem ou um clipe de áudio ou algo assim e você classifica a imagem ou produz o texto que vem desse clipe de áudio.

Mas o raciocínio e o pensamento estratégico reais não são atualmente uma grande força desses sistemas de IA, e é aí que as pessoas entram. Eu estava dizendo antes como os sistemas de IA podem ajudar a focar as pessoas no que é realmente importante. Acho que as pessoas podem se concentrar a IA para olhar para os problemas ou olhar em direções onde o ser humano intua que há algo útil ali.

É aí que eu vejo esses sistemas se desenvolvendo na próxima década, os seres humanos trazendo suas habilidades para a mistura, as máquinas trazendo suas habilidades também e ambos trabalhando em conjunto. Eu vejo isso acontecendo em praticamente todos os campos, saúde, educação, envelhecimento, etc.

IDGNS: Você está construindo o sistema IA no trabalho, mas você usa sistemas IA para ajudá-lo em seu trabalho?

MC: Como pesquisador, uso ferramentas, obviamente. Uso pesquisas na web e tenho ferramentas que me ajudam a olhar para os documentos técnicos que saem e tentar identificar no que eu deveria estar me concentrando. Mas quando se trata de fazer as perguntas interessantes, o que eu deveria estar trabalhando, e identificar as mais rentáveis ​​ou mais provável direções que eu deveria focar a pesquisa, não conheço uma ferramenta ainda que possa realmente me ajudar. Obviamente, esse seria um grande projeto que poderia me tornar um pesquisador muito mais eficiente se eu pudesse desenvolver as ferramentas de IA que pudessem me ajudar a fazer o meu trabalho melhor.

IDGNS: Talvez esse seja o próximo grande desafio?

MC: Esse é certamente um deles, talvez não o que todo mundo lá fora pensa, porque há tantos problemas do mundo real que afetam milhões ou até bilhões de pessoas todos os dias... A comunidade que trabalha com IA está inundad de informaçõesa, como todo mundo. O número de documentos técnicos que saem todos os dias é bastante surpreendente, mesmo em comparação com cinco anos atrás, e precisamos de ajuda como todo mundo.



Reportagens mais lidas

Acesse a comunidade da CIO

LinkedIn
A partir da comunidade no LinkedIn, a CIO promove a troca de informações entre os líderes de TI. Acesse aqui