Ferramenta protege artistas de terem estilos copiados por IAs que criam imagens
O Glaze cria uma "camuflagem" para as artes, que o olho humano não consegue ver – mas os robôs, sim. Entenda como ele funciona.
Inteligências artificiais (IAs) capazes de gerar imagens tem alcançado resultados impressionantes, indiscerníveis de fotos reais – a montagem do Papa de jaqueta que o diga.
Natural. Softwares desse tipo funcionam a partir de um princípio conhecido como machine learning (“aprendizado de máquina”), cuja premissa é o aperfeiçoamento constante. Esses programas (Midjourney, Dall-E, Staple Diffusion, entre outros) recebem incontáveis imagens de todos os cantos da internet, associadas a uma descrição em texto do que elas são (uma foto de um cacho de uva vai ter a legenda “cacho de uva”, simples assim). As IAs então, traduzem essas informações para conjuntos numéricos, e “entendem” que aquilo é a representação visual da fruta.
A partir daí, elas estão prontas para receber pedidos. Quando você escreve “cacho de uva” para o Dall-E, por exemplo, ele vai buscar no seu banco de dados o conceito de um “cacho de uva” – várias esferas lustrosas, verdes ou roxas, presas por um caule de planta. O robô, então, se prepara para um processo chamado de “difusão”.
Nesse processo, é como se ela jogasse várias peças de quebra-cabeça aleatórias em uma mesa e fosse, aos poucos, organizando o caos na imagem requisitada. No caso, as peças são pixels que, depois do comando, vão se alinhando para tentar se aproximar do pedido. (Para entender mais profundamente como IAs desse tipo funcionam, recomendamos a leitura desta matéria da Super.)
As imagens criadas não se limitam a frutas, claro. Elas podem gerar coisas fora do comum e até copiar o estilo de outros artistas. Como as IAs são treinadas com muitas imagens, incluindo obras de pintores famosos como Van Gogh, Monet e Picasso, o robô consegue replicar estilos, caso o comando do usuário assim desejar. Na imagem abaixo, por exemplo, pedimos que o Midjourney criasse um gato com o mesmo traço da Tarsila do Amaral. Convincente, não?
Só que tem um problema: os artistas não consentiram com esse uso. O principal argumento contra essa prática é que, enquanto eles passaram anos aprimorando e desenvolvendo o próprio estilo, uma máquina entrega algo similar a partir de algumas poucas palavras. É como se você encomendasse o trabalho deles – sem pagá-los. Em um processo na Justiça americana, artistas acusam a empresa Stability AI, do Stable Diffusion, de treinar seu algoritmo com fotos e ilustrações que não a pertencem.
Por conta disso, muitos profissionais têm receio de colocar suas peças nas redes, já que elas podem acabar alimentando o banco de dados das IAs. Mas isso é um péssimo negócio, já que, consequentemente, atrapalha a divulgação de seus trabalhos. O que fazer?
Aqui não, robô
A imagem que abre este texto é um marco. A “Musa Victoriosa”, criada por Karla Ortiz, foi a primeira arte que oficialmente passou pelo Glaze, ferramente que faz ligeiras alterações no arquivo para enganar as IAs – e impedi-las de o armazenarem em seus bancos de dados.
1/ This might be the most important oil painting I’ve made:
Musa Victoriosa
The first painting released to the world that utilizes Glaze, a protective tech against unethical AI/ML models, developed by the @UChicago team led by @ravenben. App out now 👇 https://t.co/cNIXNDHMBy pic.twitter.com/Y1MqVK7yvZ
Continua após a publicidade— Karla Ortiz 🐀 (@kortizart) March 15, 2023
Criado por pesquisadores da Universidade de Chicago, nos EUA, o Glaze (que inglês quer dizer algo como “polimento”, “dar acabamento”) promete adicionar uma camada de proteção em cima da sua arte digital – e que pode dificultar a tarefa das IAs em imitar estilos. Durante o desenvolvimento do programa, mais de 1,1 mil artistas avaliaram a sua eficácia o uso em diferentes cenários.
Mas, afinal: como o Glaze funciona?
O programa analisa a sua arte e adiciona pequenas mudanças (pequenas mesmo, a nível de pixel) para criar uma “arte camuflada”. Os olhos humanos não conseguem perceber as sutilezas – mas as máquinas, sim. É diferente de uma marca d’água, por exemplo.
Ao descobrir como as IAs traduzem o “estilo artístico” em conjuntos numéricos, o Glaze embaralha tudo com a chamada “camuflagem de estilo” – ela instrui o robô gerador de imagens a buscar outros estilos – e, assim, preserva o original.
Essas imagens serviram de exemplo para mostrar a eficácia da Glaze.A imagem acima ajuda a entender como isso funciona. Os pesquisadores testaram o Glaze com o trabalho de três artistas: Na imagem acima, por exemplo, os pesquisadores testaram a Glaze com o trabalho de três artistas: Karla Ortiz, Nathan Fowkes e Claude Monet. A primeira coluna mostra obras originais produzidas por eles.
Na segunda coluna, dá para ver o que acontece quando o Glaze não está envolvido. Eles pediram a uma IA para gerar uma imagem no estilo de cada artista – e os resultados foram convincentes.
Na terceira coluna, há exemplos do Glaze (e sua camuflagem de estilo) em ação. O programa evoca outros estilos artísticos (de Van Gogh a Picasso) para confundir a IA. Quando a robô tenta replicar, acaba chegando no resultado da quarta coluna – bem destoante de quando não havia a camuflagem.
Primeiros passos
A ferramenta não é perfeita, claro. As mudanças que ela faz, por exemplo, são mais perceptíveis em artes com cores chapadas e planos de fundo mais simples. Os pesquisadores afirmam estar atrás de métodos que reduzam o impacto visual nesses estilos.
Além disso, a solução não é permanente. As IAs evoluem rápido, e as técnicas de hoje podem não funcionar tão bem amanhã. Mas não deixa de ser um primeiro passo importante para proteger artistas até que medidas legais sejam criadas.
“Estamos retirando nosso consentimento”, afirma Ortiz ao The New York Times. “As inteligências artificiais têm dados que não pertencem a elas: são minhas obras de arte, essa é minha vida, é como a minha identidade.”
A ferramenta já está disponível para uso, é gratuita e deve receber atualizações constantes.