Clique e Assine a partir de R$ 9,90/mês

Google cria ferramenta “anti-troll” e libera uso no mundo todo

Inteligência artificial é capaz de identificar insultos, xingamentos e outros conteúdos abusivos em comentários de internet

Por Guilherme Eler Atualizado em 2 mar 2017, 18h12 - Publicado em 2 mar 2017, 16h07

A guerra aos comentaristas de portais ganhou um importante aliado. A ferramenta Perspective é uma iniciativa do Google para limitar a atuação dos “trolls” na internet, por meio da identificação de linguagem abusiva on-line. Em desenvolvimento desde setembro do ano passado, seu código está disponível agora para o mundo todo.

A ferramenta foi “treinada” usando milhares de exemplos de conteúdo produzido por usuários, como discussões editoriais da Wikipédia e milhões de comentários do jornal The New York Times. A ideia é criar um banco de dados que ensine a inteligência artificial da Perspective a identificar insultos, xingamentos, assédios ou outras formas de conteúdo abusivo.

Existe até um site de demonstração, onde é possível submeter qualquer frase à análise da Perspective. O resultado reflete o nível de “toxicidade” do comentário, a partir de uma escala que vai de 0 a 100%. A frase “Você é estúpido”, em inglês, por exemplo, é avaliada como tóxica por 96% dos registros encontrados pela Perspective – um bom indicador de que o comentarista está tentando ser ofensivo.

No entanto, testes apontam para alguns problemas que comprometem a eficácia da ferramenta. O aproveitamento é razoável somente para frase redigidas em inglês – xingamentos em línguas como português e espanhol ainda são classificados como bem menos tóxicos. “Idiota”, em português, só chega a 34% de toxicidade. Além disso, qualquer alteração mínima da ordem das letras nas palavras, compromete sua identificação como xingamento. A utilização de expressões pejorativas menos populares ou tiradas de contexto também alteram drasticamente o resultado, sinalizando o estágio inicial de desenvolvimento da ferramenta.

Uma das possibilidades futuras da Perspective é sua utilização em portais de notícias, ou fóruns, melhorando as discussões nesses ambientes. Apesar de já existirem ferramentas que dificultam o uso de linguagem inapropriada, como formulários para denúncia de conteúdos e usuários, a classificação serviria para automatizar essa mediação. Os usuários poderiam ter um feedback simultâneo, no momento em que escrevem o comentário, contribuindo para a otimização do próprio conteúdo. Veículos jornalísticas como os britânicos The Guardian e The Economist contribuíram para o projeto, e já indicaram que têm interesse em implementar a tecnologia.

Continua após a publicidade

Publicidade

Essa é uma matéria exclusiva para assinantes. Se já é assinante, entre aqui. Assine para ter acesso a esse e outros conteúdos de jornalismo de qualidade.

Essa é uma matéria fechada para assinantes e não identificamos permissão de acesso na sua conta. Para tentar entrar com outro usuário, clique aqui ou adquira uma assinatura na oferta abaixo

Transforme sua curiosidade em conhecimento. Assine a Super e continue lendo

Impressa + Digital

Plano completo da Super. Acesso aos conteúdos exclusivos em todos formatos: revista impressa, site com notícias e revista no app.

Acesso ilimitado ao Site da SUPER, com conteúdos exclusivos e atualizados diariamente.

Receba mensalmente a SUPER impressa mais acesso imediato às edições digitais no App SUPER, para celular e tablet.

a partir de R$ 12,90/mês

MELHOR
OFERTA

Digital

Plano ilimitado para você que gosta de acompanhar diariamente os conteúdos exclusivos no site e ter acesso a edição digital no app.

App SUPER para celular e tablet, atualizado mensalmente.

a partir de R$ 9,90/mês

ou

30% de desconto

1 ano por R$ 82,80
(cada mês sai por R$ 6,90)