Mythos conseguiu invadir “quase todos” os sistemas da NSA, diz diretor da agência
Novo algoritmo de IA da Anthropic, tirado do ar por ordem da Casa Branca, teria penetrado nas redes da superagência de espionagem norte-americana
O Mythos 5, novo algoritmo de IA da empresa norte-americana Anthropic, foi tirado do ar na semana passada após uma ordem da Casa Branca determinando que ele não poderia ser usado por estrangeiros – a justificativa foi de que o bot, supostamente capaz de encontrar grande quantidade de brechas de segurança em outros softwares, representaria uma ameaça à segurança nacional dos EUA.
Agora, uma informação publicada pela revista inglesa The Economist adiciona dramaticidade ao caso. Segundo o general Joshua Rudd, que desde março dirige a National Security Agency (NSA), a superagência de espionagem dos EUA, o Mythos teria “invadido quase todos os nossos sistemas confidenciais, não em semanas, mas em horas”. A informação foi relatada à Economist por Mark Warner, vice-presidente do Comitê de Inteligência do Senado dos EUA.
Isso não significa, claro, que o Mythos tenha feito ataques por “iniciativa” própria. O texto da Economist não traz mais detalhes, mas é provável que a NSA tenha usado o bot num exercício de segurança do tipo red team – em que profissionais de uma organização (como uma empresa ou, no caso, da agência) usam ferramentas para tentar atacar os próprios sistemas, com o objetivo de identificar vulnerabilidades neles.
O Mythos ganhou notoriedade após encontrar 271 falhas de segurança no navegador Firefox durante um teste controlado, realizado com a permissão da Fundação Mozilla. Alegando questões de segurança, a Anthropic optou por não liberar esse algoritmo ao público – ele só podia ser utilizado por pesquisadores e instituições aprovadas pela empresa.
Porém, no dia 9 de junho, ela lançou publicamente o Fable: uma versão controlada do Mythos, supostamente cercada por guardrails (programações de segurança para que o bot não execute determinadas ordens). Não durou muito: no dia 12, ela já recebeu a ordem da Casa Branca, e acabou tirando o algoritmo de seu site. Engenheiros da Amazon teriam descoberto um modo de burlar os guardrails, e alertado as autoridades norte-americanas.
A Anthropic é conhecida por dizer que suas IAs são perigosas, para depois liberá-las ao público mesmo assim (ela fez isso com o GPT-2 e o GPT-3, mas depois lançou o ChatGPT, em novembro de 2022, rodando um algoritmo mais poderoso, o GPT-3.5). Mas o Mythos e o Fable realmente parecem mais poderosos -e potencialmente danosos- que seus antecessores.
Leia também: Por dentro da NSA, a superagência que grampeou a internet







