Aceleradores de IA demasiado especializados
Os autores da Specops decidiram avaliar do que são capazes os aceleradores modernos para IA numa tarefa de quebra de palavras-passe. Para isso, utilizaram a Nvidia H200 e a AMD Instinct MI300X e, para comparação, também a RTX 5090.
Os autores testaram cinco algoritmos de hash populares - MD5, NTLM, bcrypt, SHA-256 e SHA-512 - com recurso ao Hashcat, uma ferramenta concebida para recuperar palavras-passe a partir de hashes de palavras-passe armazenados num ficheiro, como ponto de partida. O mesmo utilitário é também usado por hackers para automatizar a quebra de palavras-passe.
Verificou-se que o acelerador da AMD foi mais rápido do que o H200 em quatro dos cinco casos, e sempre de forma bastante clara. Ainda assim, nos cinco testes a placa gráfica de gaming GeForce RTX 5090 foi a mais rápida, e quase sempre afastou-se de forma visível da líder.
Os autores explicam os resultados da seguinte forma:
A quebra de palavras-passe é normalmente feita com operações com inteiros de 32 bits (INT32). Para encontrar uma correspondência, o hardware tem de gerar uma possível correspondência, calcular o hash e compará-lo. Este processo não beneficia em nada da optimização das operações em vírgula flutuante.
No entanto, os aceleradores de IA foram concebidos para uma carga de trabalho muito específica e limitada: grandes modelos de linguagem.
- Operações SIMD amplas (Instrução Única, Dados Múltiplos): são criadas para executar operações SIMD sobre grandes conjuntos de dados.
- Tipos de dados pequenos: recorrem a operações matemáticas “pequenas” (números em vírgula flutuante FP4, FP8 ou FP16) para encaixar o máximo de dados possível no cálculo. Isto permite-lhes agrupar uma enorme quantidade de valores em operações vetoriais, o que garante cálculos matriciais extremamente eficientes em grandes conjuntos de dados.
- A memória é mais importante do que a capacidade de cálculo: sacrificam flexibilidade universal em troca de memória de elevada velocidade, para evitar a “latência” na procura de dados no armazenamento.
Imagine um acelerador de IA como uma bicicleta de corrida profissional. Está desprovido de tudo o que é supérfluo para um único objetivo: andar depressa em longas distâncias. Se tentar usá-lo para transportar compras ou para andar em terreno irregular (“computação geral” nas tarefas de quebra de palavras-passe), ele terá um desempenho pior do que uma bicicleta padrão (por exemplo, a RTX 5090).
Em suma, os aceleradores de IA trocam flexibilidade por especialização.
Os autores também assinalam que, apesar do aumento da capacidade de processamento das soluções de consumo, as palavras-passe, enquanto ferramenta, não se tornaram obsoletas. Simplesmente, como sempre, têm de ser suficientemente complexas.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário