YouTube queria bloquear discurso de ódio. Acabou bloqueando vídeos de história sobre nazismo.
O site precisou mudar depois de duras críticas a seus padrões "pouco rígidos" com conteúdo extremista. Só que, agora, o algoritmo do YouTube parece estar pecando pelo excesso...
A cada minuto, o YouTube recebe o equivalente a 400 horas somadas de vídeo. Para que uma pessoa assista ao conteúdo original que a plataforma recebe em um só dia seria preciso passar 65 anos frente à tela.
Gerir essa quantidade colossal de conteúdo não é uma tarefa nada simples. Por causa da audiência variada, que inclui pessoas com todas as idades, de dezenas de países – e com intenções diferentes, algumas mais inocentes que as outras –, existe um trabalho intenso de moderação.
O Youtube Kids, por exemplo, foi uma alternativa criada pela plataforma para tentar criar um ambiente mais “seguro” para a sua audiência mais jovem – e mais vulnerável. Neste ambiente, só entram vídeos autorizados a circular depois da análise de uma equipe avaliadora.
Já para o público geral, o controle é menos estrito. Para ter um vídeo banido radicalmente, ele geralmente precisa envolver nudez, conteúdo sexual e violência física – extremos que algoritmos treinados pelo Youtube são capazes de detectar. Esses algoritmos, que monitora termos “proibidos”, detectam violações e derrubam vídeos na hora. O canal responsável, em caso de reincidência, é penalizado.
Mesmo assim, o Youtube sofreu duras críticas por ter a mão leve demais com outros conteúdos considerados violentos. Mas nesse caso, a violência estava nos temas. Vídeos recheados de discurso de ódio, narrativas inflamatórias e extremistas dificilmente eram derrubados no site – não só porque são mais difíceis de detectar, mas porque os próprios termos de uso do Youtube não se posicionavam diretamente contra eles.
A cautela era justamente para não infringir a liberdade de expressão dos usuários. Os críticos, por outro lado, afirmavam que, nessa tentativa, o Youtube acabava dando palanque para pessoas (e discursos) prejudiciais, e potencialmente perigosos.
Como você, leitor da SUPER, já leu por aqui, o YouTube mudou na última quarta-feira (5) a sua política de restrições – passando a excluir, também, vídeos considerados “extremistas”. A ação faz parte de uma iniciativa para combater os discursos de ódio e discriminação, tornando a plataforma de vídeos um ambiente mais agradável.
Na lista proibida, estão vídeos construídos a partir de visões radicais, violentas ou que incitem qualquer tipo de discriminação. Como aqueles que reproduzem um discurso neonazista, ou que negam a existência do Holocausto, por exemplo.
O problema é que, vez ou outra, o tiro pode sair pela culatra… Principalmente se os “tiros” são disparados por algoritmos.
Nos últimos dias desde as novas diretrizes, produtores de conteúdo começaram a reclamar de vídeos banidos incorretamente. O motivo? Seus vídeos reproduziam imagens e discursos nazistas… O que não deixa de ser verdade. O problema é que eles eram vídeos históricos e educacionais – e, por isso, usavam imagens históricas dentro de explicações sobre a Segunda Guerra Mundial, por exemplo.
Na tentativa de evitar distribuir o conteúdo de neonazistas que exaltam Adolf Hitler… O algoritmo acabou banindo os mais diversos tipos de menção ao ditador – até as críticas.
Foi o que aconteceu com o canal MrAllsopHistory, fundado pelo professor Scott Allsop, que mora na Romênia. A justificativa do Google para tirar os vídeos do ar foi por enquadrá-los como “conteúdo que promove ódio ou violência contra os membros de um grupo minoritário”.
Como destaca o jornal The Guardian, o material envolvia documentários sobre nazismo produzidos pela TV britânica BBC, discursos originais de Hitler e comentários de Goebbels, o chefe da propaganda nazista. Apesar de ter conseguido recuperar seu canal na última quinta-feira (6), ele disse ter tido contato com outros professores de história na mesma situação.
“Eu apoio totalmente as tentativas do YouTube de diminuir o discurso de ódio, mas sinto que silenciar as poucas pessoas que tentam ensinar sobre esses perigos pode ser algo contra-producente às reais metas”, disse Allsop.
Um caso parecido envolveu produtores de conteúdo aqui no Brasil. O canal brasileiro Xadrez Verbal, que trata de assuntos ligados a política e história, também declarou ter um material do gênero deletado no último dia 5. O vídeo “70 anos de Auschwitz, Holocausto, relativização e nazismo”, feito em 2015, foi devolvido ao canal um dia depois. Você pode assisti-lo clicando neste link.
“Às vezes os nossos sistemas podem remover vídeos incorretamente. Quando isso acontece, analisamos o conteúdo novamente. No seu caso, concluímos que o seu vídeo não infringe nenhuma política e já foi restaurado”, respondeu o YouTube sobre o caso, via sua conta oficial no Twitter.
Alguns vídeos com a temática nazismo têm sido sinalizados com a informação “este vídeo pode ser impróprio para alguns usuários”. Para assistir à produção, quem acessa precisa clicar no botão “estou ciente e quero continuar”.
“Cem Anos de Solidão”: entenda a árvore genealógica da família Buendía
Estes são os 100 nomes de bebês mais populares de 2017
7 jogos de tabuleiro para dar de presente neste Natal
Os gatos fazem bem para a nossa saúde? Veja o que diz a ciência
742 novas espécies foram identificadas em dez anos na Bacia do Congo; veja fotos
ACESSO LIVRE COM VIVO FIBRA