Hawking e Musk assinam acordo para uso de inteligência artificial

Stephen Hawking é o mais famoso físico vivo. E de longe o mais pessimista. Após alertar sobre os perigos da inteligência alienígena, da criação de armas autônomas e da mudança ambiental — a lista detalhada está aqui — ele resolveu tomar providências.

Junto com Elon Musk — CEO da SpaceX famoso por excentricidades visionárias como cavar buracos sem objetivo aparente ou colonizar Marte —, Hawking assinou uma lista de 23 princípios que a humanidade deverá seguir para se blindar contra os perigos da inteligência artificial nas próximas décadas.

Os itens foram listados pelo Instituto Futuro da Vida (Future of Life Institute, em inglês), organização sem fins lucrativos que une figurões como o criador do Skype, Jaan Tallinn, e os atores Morgan Freeman e Joseph Gordon-Levitt para garantir que o avanço tecnológico virá para o bem.

Consciente do próprio poder, em 2014 Elon Musk já havia afirmado que a inteligência artificial pode ser tão perigosa quanto uma guerra atômica. No mesmo ano ele doou 1 bilhão de dólares ao projeto OpenAI, um grupo de pesquisa que tem como objetivo desenvolver máquinas pensantes úteis e amigáveis — como os dróides R2-D2 e C3PO de Star Wars, que dão uma mãozinha para o ser humano mas não desejam dominar o mundo.

A lista é dividida em três seções: pesquisa, ética e valores e preocupações de longo prazo. Na parte de pesquisa, os autores afirmam, por exemplo, que deve haver maior interação entre laboratórios e os responsáveis pela criação de políticas públicas. Em ética e valores são traçadas regras básicas, como a de que todas as máquinas devem ser seguras, auditáveis por autoridades judiciais humanas, compatíveis com os direitos humanos e a diversidade cultural e, claro, incapazes de subverter a ordem imposta. Exterminador do Futuro, alguém?

O último item envolve questões mais amplas e filosóficas, como a possível capacidade que a inteligência artificial terá de replicar a si mesma e como ela não deve ser usada por empresas ou governos para objetivos que não sejam benéficos para a humanidade.

Você pode ver a lista completa de signatários no site oficial. É bom lembrar que essa lista não tem força de lei ou acordo internacional. Ela consiste em sugestões e princípios de conduta que são consenso entre especialistas — e que sem dúvida irão contribuir para a qualidade de vida no futuro se seguidos por todos.