MIT cria Norman, primeira inteligência artificial psicopata

Ele foi alimentado com o que há de pior na internet, e serve para deixar claro um problema intrínseco da computação.

Por Felipe Sali
7 jun 2018, 14h02

(Massachusetts Institute of Technology/Divulgação)

Em Psicose, filme de 1960 dirigido por Alfred Hitchcock baseado no livro homônimo de Robert Bloch, Norman Bates é um homem que teve uma infância atribulada devido ao autoritarismo da sua mãe e se torna um assassino a sangue frio. Não por acaso o personagem foi escolhido para batizar a mais nova e macabra criação do MIT: uma inteligência artificial psicopata.

Os cientistas Pinar Yanardag, Manuel Cebrian e Iyad Rahwan alimentaram a IA com imagens fortes de mortes e violências retiradas do Reddit (conhecida como a terra sem lei da internet) e a fizeram assimilar tudo por meio de deep learning. Em seguida, os pesquisadores pediram para que Norman interpretasse algumas imagens de um teste de Rorschach e compararam os resultados com o de uma inteligência artificial comum.

Enquanto a IA padrão enxergava um vaso de flores em uma mancha, Normam enxergava um homem morto a tiros. Enquanto um enxergou um casal em pé, Norman disse ver uma mulher grávida caindo de uma construção. Em um dos momentos mais macabros, Norman identificou um homem baleado em frente a sua esposa desesperada onde o seu colega viu apenas alguém segurando um guarda-chuva.

Continua após a publicidade

Ao contrário do que parece, a intenção por trás do estudo não é uma mera brincadeira. O estudo joga uma luz sobre uma característica computação: às vezes um algoritmo não funciona bem, mas o problema pode não estar no código de programação, e sim nos dados que alimentam o tal código. Ou seja: você pode construir uma inteligência artificial excelente, mas, se os dados que ela consome forem enviesados, você pode acabar com uma IA inútil na mão. Valeu por deixar isso claro, Norman.