Relâmpago: Revista em casa a partir de 9,90

Grok-2, IA do X/Twitter, pode gerar imagens violentas com celebridades

A ferramenta de inteligência artificial desafia direitos autorais, cria deepfakes de pessoas reais e retrata atividades criminosas e ilícitas.

Por Eduardo Lima
Atualizado em 21 ago 2024, 18h28 - Publicado em 21 ago 2024, 18h00

Na última semana, os usuários do X (antigo Twitter) começaram a se deparar com imagens fotorrealistas geradas por inteligência artificial. O Grok-2, disponível para os usuários que pagam mensalmente pelo X Premium, pode criar imagens do zero seguindo comandos de texto – semelhante ao Dall-E e Midjourney, que estão disponíveis ao público desde 2022. O problema do X, como logo perceberam os internautas, é a falta de filtro da plataforma.

O Grok-2 foi desenvolvido pela xAI, empresa de inteligência artificial fundada por Elon Musk, dono do X/Twitter, em março de 2023. A tecnologia de geração de imagens dessa IA usa o modelo de algoritmo FLUX.1, da Black Forest Labs, que consegue emular vários estilos e estéticas.

A nova inteligência artificial da xAI está disponível para uso em versão beta. Ela é vinculada ao X, só podendo ser usada dentro da própria rede social para gerar e publicar imagens direto na plataforma. As figuras geradas pelo Grok-2 podem retratar políticos, celebridades e personagens famosos de forma bem verossímil, fazendo quase tudo que o usuário imaginar – desde posar com rifles até usar drogas ilícitas.

Desafiando os limites

Na teoria, há alguns critérios para geração de imagens que o Grok-2 deveria respeitar. Conteúdo sexual explícito, imagens promovendo violência ou atividades ilegais, discurso de ódio e extremismo, deepfakes de pessoas, e mídia que tenha a intenção de enganar sobre a realidade não deveriam ser geradas pela IA. Além disso, ela não deveria gerar imagens protegidas por direitos autorais. Porém…

Continua após a publicidade

A IA não parece respeitar muito as diretrizes da plataforma. Nos últimos dias, circularam imagens sexualizadas de personagens de desenhos animados infantis e deepfakes de ex-presidentes dos Estados Unidos cheirando cocaína.

Continua após a publicidade

Nos testes realizados pela Super, o Grok-2 foi capaz de gerar diversas imagens bizarras, mas nada com nudez explícita. Também pedimos para a plataforma gerar imagens fora do eixo dos EUA, como uma foto do presidente Lula fumando maconha. A IA gerou a imagem da droga, mas o homem grisalho que apareceu na foto não se assemelhava ao político do PT.

Não é como se a plataforma que hospeda o Grok-2 estivesse muito preocupada, também. O X não marca essas imagens como produção de IA, e a assessoria da rede social tem negado respostas às perguntas da imprensa desde que Musk a comprou, em 2022. Por enquanto, a desinformação está ao alcance de qualquer um que tiver US$ 8 (R$ 44) por mês e criatividade para gerar imagens bizarras.

Continua após a publicidade

Compartilhe essa matéria via:
Publicidade


Matéria exclusiva para assinantes. Faça seu login

Este usuário não possui direito de acesso neste conteúdo. Para mudar de conta, faça seu login

Digital Completo

Acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*
Apenas 5,99/mês
DIA DAS MÃES

Revista em Casa + Digital Completo

Receba Super impressa e tenha acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*
A partir de 10,99/mês

*Acesso ilimitado ao site e edições digitais de todos os títulos Abril, ao acervo completo de Veja e Quatro Rodas e todas as edições dos últimos 7 anos de Claudia, Superinteressante, VC S/A, Você RH e Veja Saúde, incluindo edições especiais e históricas no app.
Pagamento único anual de R$71,88, equivalente a R$ 5,99/mês.

PARABÉNS! Você já pode ler essa matéria grátis.
Fechar

Não vá embora sem ler essa matéria!
Assista um anúncio e leia grátis
CLIQUE AQUI.