As autoridades dos EUA reuniram bancos urgentemente devido a uma nova IA da Anthropic e riscos de ciberataques.

Modelo Claude Mythos gera receios para a estabilidade do sistema financeiro e a cibersegurança bancária

O secretário do Tesouro dos EUA, Scott Bessent, e o presidente da Reserva Federal, Jerome Powell, realizaram uma reunião de emergência com os responsáveis dos maiores bancos, na sequência das preocupações em torno de um novo modelo de inteligência artificial da Anthropic. O encontro decorreu em Washington e centrou-se nos potenciais riscos cibernéticos que podem surgir com o avanço deste tipo de sistemas.

Segundo fontes, a reunião foi organizada para garantir que os bancos estão informados sobre as possíveis ameaças e a tomar medidas para proteger os seus sistemas. O motivo foi o modelo Claude Mythos, que a Anthropic descreve como uma ferramenta capaz de aumentar de forma significativa a eficácia na deteção e exploração de vulnerabilidades em software.

De acordo com a empresa, "os modelos modernos de IA já superam quase tudo, exceto os especialistas mais experientes" na identificação de vulnerabilidades. Na Anthropic, avisaram ainda que as consequências podem afetar a economia, a segurança pública e a segurança nacional.

A preocupação foi reforçada por uma fuga de código do modelo, ocorrida anteriormente. Depois disso, a empresa restringiu o acesso ao Mythos, disponibilizando-o apenas a um número limitado de parceiros, entre os quais grandes tecnológicas e organizações de infraestruturas.

A reunião contou com dirigentes de bancos norte-americanos sistemicamente importantes, incluindo os responsáveis da Goldman Sachs, Bank of America, Citigroup, Morgan Stanley e Wells Fargo. Estes bancos são considerados críticos para o sistema financeiro, e qualquer falha no seu funcionamento pode ter efeitos em grande escala.

O presidente da JPMorgan Chase, Jamie Dimon, que não esteve presente, já tinha referido na sua carta anual aos acionistas que a cibersegurança continua a ser uma das principais ameaças e que a evolução da IA poderá, provavelmente, intensificar esse risco.

Segundo a Anthropic, o modelo Mythos já encontrou milhares de vulnerabilidades em software, incluindo algumas que existiam há até 27 anos e que nunca tinham sido detetadas pelos programadores. Isso reforça o receio de que estas ferramentas possam ser usadas por atacantes para comprometer sistemas e contornar mecanismos de defesa.

A situação insere-se num debate mais vasto sobre os riscos da IA. Anteriormente, as autoridades dos EUA incluíram a Anthropic na lista de potenciais riscos para as cadeias de abastecimento, algo que a empresa contesta em tribunal.