YouTube queria bloquear discurso de ódio. Acabou bloqueando vídeos de história sobre nazismo.
O site precisou mudar depois de duras críticas a seus padrões "pouco rígidos" com conteúdo extremista. Só que, agora, o algoritmo do YouTube parece estar pecando pelo excesso...
A cada minuto, o YouTube recebe o equivalente a 400 horas somadas de vídeo. Para que uma pessoa assista ao conteúdo original que a plataforma recebe em um só dia seria preciso passar 65 anos frente à tela.
Gerir essa quantidade colossal de conteúdo não é uma tarefa nada simples. Por causa da audiência variada, que inclui pessoas com todas as idades, de dezenas de países – e com intenções diferentes, algumas mais inocentes que as outras –, existe um trabalho intenso de moderação.
O Youtube Kids, por exemplo, foi uma alternativa criada pela plataforma para tentar criar um ambiente mais “seguro” para a sua audiência mais jovem – e mais vulnerável. Neste ambiente, só entram vídeos autorizados a circular depois da análise de uma equipe avaliadora.
Já para o público geral, o controle é menos estrito. Para ter um vídeo banido radicalmente, ele geralmente precisa envolver nudez, conteúdo sexual e violência física – extremos que algoritmos treinados pelo Youtube são capazes de detectar. Esses algoritmos, que monitora termos “proibidos”, detectam violações e derrubam vídeos na hora. O canal responsável, em caso de reincidência, é penalizado.
Mesmo assim, o Youtube sofreu duras críticas por ter a mão leve demais com outros conteúdos considerados violentos. Mas nesse caso, a violência estava nos temas. Vídeos recheados de discurso de ódio, narrativas inflamatórias e extremistas dificilmente eram derrubados no site – não só porque são mais difíceis de detectar, mas porque os próprios termos de uso do Youtube não se posicionavam diretamente contra eles.
A cautela era justamente para não infringir a liberdade de expressão dos usuários. Os críticos, por outro lado, afirmavam que, nessa tentativa, o Youtube acabava dando palanque para pessoas (e discursos) prejudiciais, e potencialmente perigosos.
Como você, leitor da SUPER, já leu por aqui, o YouTube mudou na última quarta-feira (5) a sua política de restrições – passando a excluir, também, vídeos considerados “extremistas”. A ação faz parte de uma iniciativa para combater os discursos de ódio e discriminação, tornando a plataforma de vídeos um ambiente mais agradável.
Na lista proibida, estão vídeos construídos a partir de visões radicais, violentas ou que incitem qualquer tipo de discriminação. Como aqueles que reproduzem um discurso neonazista, ou que negam a existência do Holocausto, por exemplo.
O problema é que, vez ou outra, o tiro pode sair pela culatra… Principalmente se os “tiros” são disparados por algoritmos.
Nos últimos dias desde as novas diretrizes, produtores de conteúdo começaram a reclamar de vídeos banidos incorretamente. O motivo? Seus vídeos reproduziam imagens e discursos nazistas… O que não deixa de ser verdade. O problema é que eles eram vídeos históricos e educacionais – e, por isso, usavam imagens históricas dentro de explicações sobre a Segunda Guerra Mundial, por exemplo.
Na tentativa de evitar distribuir o conteúdo de neonazistas que exaltam Adolf Hitler… O algoritmo acabou banindo os mais diversos tipos de menção ao ditador – até as críticas.
Foi o que aconteceu com o canal MrAllsopHistory, fundado pelo professor Scott Allsop, que mora na Romênia. A justificativa do Google para tirar os vídeos do ar foi por enquadrá-los como “conteúdo que promove ódio ou violência contra os membros de um grupo minoritário”.
Como destaca o jornal The Guardian, o material envolvia documentários sobre nazismo produzidos pela TV britânica BBC, discursos originais de Hitler e comentários de Goebbels, o chefe da propaganda nazista. Apesar de ter conseguido recuperar seu canal na última quinta-feira (6), ele disse ter tido contato com outros professores de história na mesma situação.
“Eu apoio totalmente as tentativas do YouTube de diminuir o discurso de ódio, mas sinto que silenciar as poucas pessoas que tentam ensinar sobre esses perigos pode ser algo contra-producente às reais metas”, disse Allsop.
Um caso parecido envolveu produtores de conteúdo aqui no Brasil. O canal brasileiro Xadrez Verbal, que trata de assuntos ligados a política e história, também declarou ter um material do gênero deletado no último dia 5. O vídeo “70 anos de Auschwitz, Holocausto, relativização e nazismo”, feito em 2015, foi devolvido ao canal um dia depois. Você pode assisti-lo clicando neste link.
“Às vezes os nossos sistemas podem remover vídeos incorretamente. Quando isso acontece, analisamos o conteúdo novamente. No seu caso, concluímos que o seu vídeo não infringe nenhuma política e já foi restaurado”, respondeu o YouTube sobre o caso, via sua conta oficial no Twitter.
Alguns vídeos com a temática nazismo têm sido sinalizados com a informação “este vídeo pode ser impróprio para alguns usuários”. Para assistir à produção, quem acessa precisa clicar no botão “estou ciente e quero continuar”.
Imagem de homem loiro em tumba chinesa de 1.300 anos intriga arqueólogos
Fungo que inspirou The Last of Us coloniza tarântula na Amazônia, veja vídeo
Saguis chamam uns aos outros por nomes, descobre estudo
Nasa decide que astronautas presos no espaço não voltarão em nave da Boeing
Por que balançamos a cabeça verticalmente para “sim” e de lado para “não”?
