YouTube queria bloquear discurso de ódio. Acabou bloqueando vídeos de história sobre nazismo.
O site precisou mudar depois de duras críticas a seus padrões "pouco rígidos" com conteúdo extremista. Só que, agora, o algoritmo do YouTube parece estar pecando pelo excesso...
A cada minuto, o YouTube recebe o equivalente a 400 horas somadas de vídeo. Para que uma pessoa assista ao conteúdo original que a plataforma recebe em um só dia seria preciso passar 65 anos frente à tela.
Gerir essa quantidade colossal de conteúdo não é uma tarefa nada simples. Por causa da audiência variada, que inclui pessoas com todas as idades, de dezenas de países – e com intenções diferentes, algumas mais inocentes que as outras –, existe um trabalho intenso de moderação.
O Youtube Kids, por exemplo, foi uma alternativa criada pela plataforma para tentar criar um ambiente mais “seguro” para a sua audiência mais jovem – e mais vulnerável. Neste ambiente, só entram vídeos autorizados a circular depois da análise de uma equipe avaliadora.
Já para o público geral, o controle é menos estrito. Para ter um vídeo banido radicalmente, ele geralmente precisa envolver nudez, conteúdo sexual e violência física – extremos que algoritmos treinados pelo Youtube são capazes de detectar. Esses algoritmos, que monitora termos “proibidos”, detectam violações e derrubam vídeos na hora. O canal responsável, em caso de reincidência, é penalizado.
Mesmo assim, o Youtube sofreu duras críticas por ter a mão leve demais com outros conteúdos considerados violentos. Mas nesse caso, a violência estava nos temas. Vídeos recheados de discurso de ódio, narrativas inflamatórias e extremistas dificilmente eram derrubados no site – não só porque são mais difíceis de detectar, mas porque os próprios termos de uso do Youtube não se posicionavam diretamente contra eles.
A cautela era justamente para não infringir a liberdade de expressão dos usuários. Os críticos, por outro lado, afirmavam que, nessa tentativa, o Youtube acabava dando palanque para pessoas (e discursos) prejudiciais, e potencialmente perigosos.
Como você, leitor da SUPER, já leu por aqui, o YouTube mudou na última quarta-feira (5) a sua política de restrições – passando a excluir, também, vídeos considerados “extremistas”. A ação faz parte de uma iniciativa para combater os discursos de ódio e discriminação, tornando a plataforma de vídeos um ambiente mais agradável.
Na lista proibida, estão vídeos construídos a partir de visões radicais, violentas ou que incitem qualquer tipo de discriminação. Como aqueles que reproduzem um discurso neonazista, ou que negam a existência do Holocausto, por exemplo.
O problema é que, vez ou outra, o tiro pode sair pela culatra… Principalmente se os “tiros” são disparados por algoritmos.
Nos últimos dias desde as novas diretrizes, produtores de conteúdo começaram a reclamar de vídeos banidos incorretamente. O motivo? Seus vídeos reproduziam imagens e discursos nazistas… O que não deixa de ser verdade. O problema é que eles eram vídeos históricos e educacionais – e, por isso, usavam imagens históricas dentro de explicações sobre a Segunda Guerra Mundial, por exemplo.
Na tentativa de evitar distribuir o conteúdo de neonazistas que exaltam Adolf Hitler… O algoritmo acabou banindo os mais diversos tipos de menção ao ditador – até as críticas.
Foi o que aconteceu com o canal MrAllsopHistory, fundado pelo professor Scott Allsop, que mora na Romênia. A justificativa do Google para tirar os vídeos do ar foi por enquadrá-los como “conteúdo que promove ódio ou violência contra os membros de um grupo minoritário”.
YouTube have banned me for 'hate speech', I think due to clips on Nazi policy featuring propaganda speeches by Nazi leaders. I'm devastated to have this claim levelled against me, and frustrated 15yrs of materials for #HistoryTeacher community have ended so abruptly.@TeamYouTube
— Mr Allsop History (@MrAllsopHistory) June 5, 2019
Como destaca o jornal The Guardian, o material envolvia documentários sobre nazismo produzidos pela TV britânica BBC, discursos originais de Hitler e comentários de Goebbels, o chefe da propaganda nazista. Apesar de ter conseguido recuperar seu canal na última quinta-feira (6), ele disse ter tido contato com outros professores de história na mesma situação.
“Eu apoio totalmente as tentativas do YouTube de diminuir o discurso de ódio, mas sinto que silenciar as poucas pessoas que tentam ensinar sobre esses perigos pode ser algo contra-producente às reais metas”, disse Allsop.
Um caso parecido envolveu produtores de conteúdo aqui no Brasil. O canal brasileiro Xadrez Verbal, que trata de assuntos ligados a política e história, também declarou ter um material do gênero deletado no último dia 5. O vídeo “70 anos de Auschwitz, Holocausto, relativização e nazismo”, feito em 2015, foi devolvido ao canal um dia depois. Você pode assisti-lo clicando neste link.
O @YouTubeBrasil retirou do ar um vídeo educativo sobre o Holocausto que explicitamente condena o nazismo.
O vídeo já foi alvo anteriormente de denúncias em massa de neonazistas.
Gostaria de saber o que faço, ou se é só ter uma horda de alt-right e incel pra derrubar um vídeo. pic.twitter.com/KCQzxUyAvj
— Xadrez Verbal (@XadrezVerbal) June 5, 2019
“Às vezes os nossos sistemas podem remover vídeos incorretamente. Quando isso acontece, analisamos o conteúdo novamente. No seu caso, concluímos que o seu vídeo não infringe nenhuma política e já foi restaurado”, respondeu o YouTube sobre o caso, via sua conta oficial no Twitter.
Alguns vídeos com a temática nazismo têm sido sinalizados com a informação “este vídeo pode ser impróprio para alguns usuários”. Para assistir à produção, quem acessa precisa clicar no botão “estou ciente e quero continuar”.
Como garantir a dose necessária de vitamina D – sem suplementos
O primeiro papa americano também é o primeiro peruano. Conheça Leão 14.
O que diz a “profecia dos papas”?
Sangue de homem picado por cobras mais de 200 vezes é usado para criar novo antídoto
O que é resiliência imunológica – e qual o seu papel no envelhecimento saudável
ACESSO LIVRE COM VIVO FIBRA