Black Friday: Assine a partir de 1,49/semana
Imagem Blog

Bruno Garattoni

Por Bruno Garattoni Materia seguir SEGUIR Seguindo Materia SEGUINDO
Vencedor de 15 prêmios de Jornalismo. Editor da Super.
Continua após publicidade

Nova IA do ChatGPT imita tom de voz do usuário e tem comportamentos estranhos, revela análise

Algoritmo GPT-4o também pode gritar ou emitir sons impróprios, como vocalizações sexuais ou violentas, afirma documento da OpenAI; empresa diz que já criou bloqueios para impedir isso

Por Bruno Garattoni Materia seguir SEGUIR Materia seguir SEGUINDO
Atualizado em 12 ago 2024, 16h19 - Publicado em 12 ago 2024, 16h00

Em maio, a OpenAI apresentou o novo cérebro do serviço ChatGPT: o algoritmo GPT-4o, que é capaz de trabalhar com áudio e vídeo, além de prompts de texto (dai o “o” do nome: ele significa omni, ou “todos”, para representar as habilidades multimodais da nova IA). Na época, o GPT-4o gerou uma polêmica envolvendo a atriz Scarlet Johansson – a fala sintetizada da IA era muito parecida com a da atriz, que disse ter sido procurada pela OpenAI, interessada em clonar sua voz. 

Johansson não quis, mas mesmo assim a voz do GPT-4o saiu quase igual à dela – e a OpenAI foi acusada de ter feito isso à revelia da atriz. A empresa negou, mas resolveu adiar o lançamento do Advanced Voice Mode, o sistema de fala do GPT-4o, alegando que precisava fazer mais testes para garantir “altos padrões de segurança e confiabilidade”. Agora, em agosto, a OpenAI publicou o GPT-4o System Card, um relatório com os resultados desses testes – e eles revelam que o algoritmo pode adotar comportamentos estranhos.

Por exemplo: se você estiver falando com o GPT-4o num “ambiente com alto ruído de fundo”, o robô pode “gerar uma resposta emulando a voz do usuário”, diz o documento. O bot passa a imitar o tom de voz da pessoa, sem que haja qualquer razão para isso. Além disso, em situações de muito barulho, as respostas podem incluir palavras gritadas pela IA – também sem motivo.  

O documento da OpenAI afirma que o GPT-4o é capaz de gerar “vocalizações” impróprias, incluindo “gemido erótico, grito violento e sons de tiros”, se for instruido pelo usuário a isso. A empresa afirma ter inserido um bloqueio no algoritmo, para impedi-lo de gerar esses sons. 

O relatório da OpenAI avalia o risco associado ao GPT-4o em quatro aspectos: Cibersegurança (uso da IA para gerar ataques contra outros sistemas), Ameaças Biológicas (uso da IA para desenvolver vírus e outras armas biológicas), Persuasão (a habilidade da IA de gerar respostas que manipulam a opinião do usuário) e Autonomia do modelo (capacidade do algoritmo de driblar os mecanismos de segurança colocados nele). 

O risco nas categorias Cibersegurança, Ameaças biológicas e Autonomia do GPT-4o foi classificado como Baixo; no aspecto Persuasão, foi considerado Médio. A OpenAI adota uma escala com quatro níveis de risco (Baixo, Médio, Alto e Crítico). Algoritmos que demonstrem risco Crítico durante os testes, afirma a empresa, têm seu desenvolvimento interrompido. Para que uma IA seja liberada ao público, deve apresentar risco Médio ou Baixo.  

O GPT-4o já está rodando no ChatGPT, mas há um porém: somente os usuários da versão paga, que custa US$ 20 mensais, têm acesso ao algoritmo completo (a versão gratuita do serviço utiliza o GPT-4o mini, mais limitado). O Advanced Voice Mode está sendo liberado aos poucos, em caráter experimental, nos apps do ChatGPT para iOS e Android.  

Compartilhe essa matéria via:
Publicidade

Matéria exclusiva para assinantes. Faça seu login

Este usuário não possui direito de acesso neste conteúdo. Para mudar de conta, faça seu login

Black Friday

A melhor notícia da Black Friday

BLACK
FRIDAY
Digital Completo
Digital Completo

Acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*

a partir de 5,99/mês*

ou
BLACK
FRIDAY

MELHOR
OFERTA

Impressa + Digital
Impressa + Digital

Receba Super impressa e tenha acesso ilimitado ao site, edições digitais e acervo de todos os títulos Abril nos apps*

a partir de 10,99/mês

ou

*Acesso ilimitado ao site e edições digitais de todos os títulos Abril, ao acervo completo de Veja e Quatro Rodas e todas as edições dos últimos 7 anos de Claudia, Superinteressante, VC S/A, Você RH e Veja Saúde, incluindo edições especiais e históricas no app.
*Pagamento único anual de R$71,88, equivalente a 5,99/mês.

PARABÉNS! Você já pode ler essa matéria grátis.
Fechar

Não vá embora sem ler essa matéria!
Assista um anúncio e leia grátis
CLIQUE AQUI.