Powell e Bessent alertam os bancos sobre riscos de segurança decorrentes do AI Mythos da Anthropic: Bloomberg

Em resumo

• Responsáveis dos EUA alertaram grandes bancos sobre riscos de cibersegurança associados ao modelo de IA Mythos da Anthropic, segundo o Bloomberg.
• O sistema poderá identificar e explorar vulnerabilidades em sistemas operativos e navegadores.
• A Anthropic tem acesso limitado ao modelo enquanto avalia potenciais riscos de segurança.

O ministro das Finanças dos EUA, Scott Bessent, e o presidente da Reserva Federal, Jerome Powell, terão reunido-se com executivos de bancos de Wall Street no início desta semana para alertar para riscos de cibersegurança associados a um novo modelo de inteligência artificial da Anthropic. De acordo com um relatório do Bloomberg, a reunião incluiu executivos da Citigroup, Bank of America, Wells Fargo, Morgan Stanley e Goldman Sachs. Os responsáveis discutiram o novo modelo de IA da Anthropic, Mythos, que tem gerado preocupação generalizada devido às suas alegadas capacidades avançadas em cibersegurança. Os responsáveis convocaram a reunião para garantir que os bancos compreendem os riscos apresentados por sistemas capazes de identificar e explorar vulnerabilidades de software em sistemas operativos e navegadores web, e para incentivar as instituições a reforçarem as defesas contra potenciais ciberataques assistidos por IA que visem infraestruturas financeiras.

Investigadores de segurança têm alertado que ferramentas capazes de descobrir vulnerabilidades automaticamente poderiam acelerar tanto o trabalho de segurança defensiva como a pirataria maliciosa, caso sejam utilizadas de forma indevida.  O modelo Mythos da Anthropic surgiu inicialmente online em março, após materiais preliminares sobre o sistema terem sido divulgados online, revelando o que a empresa descreveu como o seu modelo de IA mais capaz até à data. Em testes, o sistema terá encontrado milhares de vulnerabilidades de software previamente desconhecidas, incluindo falhas zero-day em grandes sistemas operativos e navegadores web. Investigadores da Anthropic disseram num relatório no início desta semana que as capacidades de descoberta de vulnerabilidades do Mythos Preview não foram treinadas intencionalmente, mas sim que emergiram de melhorias mais amplas no código, raciocínio e autonomia do modelo.

“As mesmas melhorias que tornam o modelo substancialmente mais eficaz a corrigir vulnerabilidades também o tornam substancialmente mais eficaz a explorá-las”, escreveu a empresa. Devido a essas capacidades, a Anthropic restringiu o acesso a um pequeno grupo de organizações de cibersegurança. “Dada a força das suas capacidades, estamos a ser deliberados quanto à forma como o disponibilizamos”, disse a Anthropic num comunicado. “Tal como é prática padrão na indústria, estamos a trabalhar com um pequeno grupo de clientes com acesso antecipado para testar o modelo. Consideramos este modelo uma mudança de patamar e o mais capaz que construímos até hoje.” Para fazer face a esse risco, a Anthropic está a testar o Mythos através do Project Glasswing, uma colaboração com empresas de tecnologia e cibersegurança de grande dimensão que utiliza o modelo para identificar e corrigir vulnerabilidades em software crítico antes que os atacantes consigam explorá-las. “O Project Glasswing é um ponto de partida. Nenhuma organização consegue resolver sozinha estes problemas de cibersegurança”, disse a empresa num comunicado. “Os programadores de IA da fronteira, outras empresas de software, investigadores de segurança, mantenedores de código aberto e governos em todo o mundo têm todos papéis essenciais a desempenhar.” A Anthropic não respondeu imediatamente ao pedido de comentário da Decrypt.