Recursos/White Papers

Notícias

Google usa Machine Learning para coibir comentários abusivos na Internet

Chamado de Perspective, novo projeto foi feito em parceria com a Jigsaw. API está disponível somente em inglês, por enquanto

Da Redação, com PC World/EUA

Publicada em 24 de fevereiro de 2017 às 14h26

A Internet é um lugar complicado para ter uma conversa. Os abusos online já fizeram com que muita gente abandonasse as redes sociais, mal equipadas para lidar com a prática, e alguns sites de notícias desabilitassem suas seções de comentários.

É por isso que o Google e a Jigsaw (incubada da Alphabet) estão trabalhando em um novo projeto chamado Perspective, que usa Machine Learning para tentar identificar comentários ofensivos - e reduzi-los. O treinamento do sistema foi feito com base em centenas de milhares de mensagens ofensivas escolhidas por pessoas reais.

 Liberada nesta sexta-feira, 24/2, a API do Perspective fornecerá aos desenvolvedores uma pontuação de quão provável é que os usuários percebam um comentário como ofensivos ou “tóxicos”.

Em troca, essa pontuação poderia ser usada para desenvolver recursos como filtragem automática de posts ou fornecer feedback para os usuários sobre o que estão escrevendo antes que eles enviem para publicação. Desde ontem, 23/2, os desenvolvedores podem solicitar acesso à API para uso em projetos que estejam trabalhando, e a Jigsaw irá aprová-los com o tempo.

Muitos sites de notícias não possuem disposição ou tempo para moderar comentários agressivos em suas reportagens e, por isso, decidiram desabilitá-los completamente e liberar a discussão nas redes sociais. O The New York Times, por exemplo, que ajudou no desenvolvimento do Perspective, abre os comentários em apenas 10% das suas reportagens, por conta do esforço necessário para moderá-los manualmente.

O Google também tem um interesse velado em um filtro melhor contra abusos. Suas seções de comentários no YouTube podem ficar cheias de ódio, deixando os criadores de conteúdos com mais uma tarefa pesada nas mãos. Usar a API do Perspective para filtrar os comentários pode ajudar a aliviar essa carga extra.

onlineharassment

A interpretação dos comentários pelo Perspective ainda está longe de ser perfeita, no entanto. Uma série de afirmações profanas feita com a intenção de aprovar algo foi marcada como provavelmente tóxica. Por exemplo, o sistema classificou a frase “This is some kick-ass music right here” como 85% similar a comentários que outras pessoas afirmaram ser ofensivos.

A Jigsaw, por sua vez, reconhece os potenciais problemas. O site do Perspective dá aos usuários uma maneira de testar comentários e dizer se eles são ofensivos ou não. A implicação aí é que a equipe da empresa vai levar esse feedback em conta em interações posteriores para reconhecimento abusos.

“Ainda estamos no começo e vamos entender muita coisa errada”, afirmou a empresa em seu site.

Por enquanto, o Perspective só está disponível em inglês, apesar de aparentemente conseguir compreender alguns comentários ofensivos em outros idiomas, dependendo do contexto.



Reportagens mais lidas

Acesse a comunidade da CIO

LinkedIn
A partir da comunidade no LinkedIn, a CIO promove a troca de informações entre os líderes de TI. Acesse aqui