Google cria ferramenta “anti-troll” e libera uso no mundo todo

Inteligência artificial é capaz de identificar insultos, xingamentos e outros conteúdos abusivos em comentários de internet

Por Guilherme Eler
Atualizado em 2 mar 2017, 18h12 - Publicado em 2 mar 2017, 16h07

A guerra aos comentaristas de portais ganhou um importante aliado. A ferramenta Perspective é uma iniciativa do Google para limitar a atuação dos “trolls” na internet, por meio da identificação de linguagem abusiva on-line. Em desenvolvimento desde setembro do ano passado, seu código está disponível agora para o mundo todo.

A ferramenta foi “treinada” usando milhares de exemplos de conteúdo produzido por usuários, como discussões editoriais da Wikipédia e milhões de comentários do jornal The New York Times. A ideia é criar um banco de dados que ensine a inteligência artificial da Perspective a identificar insultos, xingamentos, assédios ou outras formas de conteúdo abusivo.

Existe até um site de demonstração, onde é possível submeter qualquer frase à análise da Perspective. O resultado reflete o nível de “toxicidade” do comentário, a partir de uma escala que vai de 0 a 100%. A frase “Você é estúpido”, em inglês, por exemplo, é avaliada como tóxica por 96% dos registros encontrados pela Perspective – um bom indicador de que o comentarista está tentando ser ofensivo.

No entanto, testes apontam para alguns problemas que comprometem a eficácia da ferramenta. O aproveitamento é razoável somente para frase redigidas em inglês – xingamentos em línguas como português e espanhol ainda são classificados como bem menos tóxicos. “Idiota”, em português, só chega a 34% de toxicidade. Além disso, qualquer alteração mínima da ordem das letras nas palavras, compromete sua identificação como xingamento. A utilização de expressões pejorativas menos populares ou tiradas de contexto também alteram drasticamente o resultado, sinalizando o estágio inicial de desenvolvimento da ferramenta.

Uma das possibilidades futuras da Perspective é sua utilização em portais de notícias, ou fóruns, melhorando as discussões nesses ambientes. Apesar de já existirem ferramentas que dificultam o uso de linguagem inapropriada, como formulários para denúncia de conteúdos e usuários, a classificação serviria para automatizar essa mediação. Os usuários poderiam ter um feedback simultâneo, no momento em que escrevem o comentário, contribuindo para a otimização do próprio conteúdo. Veículos jornalísticas como os britânicos The Guardian e The Economist contribuíram para o projeto, e já indicaram que têm interesse em implementar a tecnologia.