O programa, que circula na rede há alguns meses, usa técnicas de deep learning (método em que o computador aprende a fazer algo sozinho, por tentativa e erro) para inserir o rosto de qualquer pessoa em qualquer vídeo: um procedimento batizado de deepfake. O software precisa ser alimentado com uma certa quantidade de vídeos reais, para que possa mapear o rosto da pessoa – por isso, as primeiras vítimas têm sido celebridades. Mas, como as pessoas comuns costumam postar vídeos de si mesmas nas redes sociais, também podem ser alvo dos deepfakes.

Os resultados são bastante convincentes, o que tem gerado preocupação nos EUA: além de usar a ferramenta para inserir pessoas em vídeos pornográficos, também seria possível forjar coisas que alguém não disse, e usar isso em contexto político ou judicial. Para demonstrar o resultado, o site BuzzFeed utilizou o app para criar  uma versão falsa do ex-presidente Barack Obama, cuja voz foi dublada pelo ator Jordan Peele. Confira:

• Mais lidas

1

História

Por que existe a letra “h” se ela não tem som?

2

Cultura

9 filmes imperdíveis para assistir no Prime Video

3

Saúde

Filtro de luz azul para telas não tem eficácia comprovada

4

Ciência

Bactérias “vampiras” letais são atraídas por proteína do sangue humano

5

História

A cidade subterrânea de 2 mil anos e 8 andares em Derinkuyu, na Turquia

• Deep Fake