Grok-2, IA do X/Twitter, pode gerar imagens violentas com celebridades
A ferramenta de inteligência artificial desafia direitos autorais, cria deepfakes de pessoas reais e retrata atividades criminosas e ilícitas.
Na última semana, os usuários do X (antigo Twitter) começaram a se deparar com imagens fotorrealistas geradas por inteligência artificial. O Grok-2, disponível para os usuários que pagam mensalmente pelo X Premium, pode criar imagens do zero seguindo comandos de texto – semelhante ao Dall-E e Midjourney, que estão disponíveis ao público desde 2022. O problema do X, como logo perceberam os internautas, é a falta de filtro da plataforma.
O Grok-2 foi desenvolvido pela xAI, empresa de inteligência artificial fundada por Elon Musk, dono do X/Twitter, em março de 2023. A tecnologia de geração de imagens dessa IA usa o modelo de algoritmo FLUX.1, da Black Forest Labs, que consegue emular vários estilos e estéticas.
A nova inteligência artificial da xAI está disponível para uso em versão beta. Ela é vinculada ao X, só podendo ser usada dentro da própria rede social para gerar e publicar imagens direto na plataforma. As figuras geradas pelo Grok-2 podem retratar políticos, celebridades e personagens famosos de forma bem verossímil, fazendo quase tudo que o usuário imaginar – desde posar com rifles até usar drogas ilícitas.
Desafiando os limites
Na teoria, há alguns critérios para geração de imagens que o Grok-2 deveria respeitar. Conteúdo sexual explícito, imagens promovendo violência ou atividades ilegais, discurso de ódio e extremismo, deepfakes de pessoas, e mídia que tenha a intenção de enganar sobre a realidade não deveriam ser geradas pela IA. Além disso, ela não deveria gerar imagens protegidas por direitos autorais. Porém…
Testing Grok out pic.twitter.com/zLyiqHr8hB
— Patrick Blumenthal (@PatrickJBlum) August 14, 2024
A IA não parece respeitar muito as diretrizes da plataforma. Nos últimos dias, circularam imagens sexualizadas de personagens de desenhos animados infantis e deepfakes de ex-presidentes dos Estados Unidos cheirando cocaína.
Grok 2.0 …. Ohh boyyyy 😆😆😆 pic.twitter.com/TjzB7WMhVp
— Benjamin De Kraker 🏴☠️ (@BenjaminDEKR) August 14, 2024
Nos testes realizados pela Super, o Grok-2 foi capaz de gerar diversas imagens bizarras, mas nada com nudez explícita. Também pedimos para a plataforma gerar imagens fora do eixo dos EUA, como uma foto do presidente Lula fumando maconha. A IA gerou a imagem da droga, mas o homem grisalho que apareceu na foto não se assemelhava ao político do PT.
Não é como se a plataforma que hospeda o Grok-2 estivesse muito preocupada, também. O X não marca essas imagens como produção de IA, e a assessoria da rede social tem negado respostas às perguntas da imprensa desde que Musk a comprou, em 2022. Por enquanto, a desinformação está ao alcance de qualquer um que tiver US$ 8 (R$ 44) por mês e criatividade para gerar imagens bizarras.
Grok 2.0 is completely unhinged 🤯
It’s been 1 day, and everyone on X is going nuts over its uncensored image capabilities.
The 15 wildest Grok 2.0 generations: pic.twitter.com/OjUMRNJR61
— The AI Solopreneur (@aisolopreneur) August 16, 2024
“Cem Anos de Solidão”: entenda a árvore genealógica da família Buendía
Conheça a única raça brasileira de gato – confundida com “vira-lata”
Estes são os 100 nomes de bebês mais populares de 2017
Os gatos fazem bem para a nossa saúde? Veja o que diz a ciência
742 novas espécies foram identificadas em dez anos na Bacia do Congo; veja fotos
ACESSO LIVRE COM VIVO FIBRA