De acordo com pt.wedoany.com-A Huawei China lançou o Atlas 950 SuperPoD, um supernó de computação inteligente de nível comercial, voltado para o treinamento de grandes modelos e cenários de computação de inteligência artificial de alta densidade, construindo clusters de computação em larga escala. O sistema utiliza um único gabinete com 64 placas NPU Ascend 950DT como unidade mínima de implantação, podendo ser expandido para até 8.192 placas NPU Ascend 950DT em interconexão total e colaboração, formando um caminho completo de construção, desde a implantação em um único gabinete até a expansão para clusters de escala massiva. A Huawei afirma que o Atlas 950 SuperPoD é atualmente o maior supernó de computação inteligente de nível comercial do setor, e a solução já passou pela validação comercial com clientes líderes, com os primeiros pedidos de compra de algumas empresas de internet de ponta entrando em fase de entrega.
O foco de engenharia do Atlas 950 SuperPoD não é apenas aumentar o número de placas de computação, mas garantir que milhares de placas NPU possam manter conexão de alta velocidade e operação colaborativa dentro do mesmo sistema. À medida que o cluster se expande de 64 placas em um único gabinete para 8.192 placas, as tarefas de computação precisam trocar dados continuamente entre diferentes dispositivos, gabinetes e nós. Se a largura de banda de interconexão for insuficiente, muitas unidades de computação podem não conseguir desempenhar todo o seu potencial devido à espera por dados. Portanto, a capacidade real do supernó depende não apenas do poder computacional de uma única placa NPU, mas também de se a rede de interconexão, a organização da memória e o escalonamento do sistema podem suportar a computação paralela em larga escala.
Em termos de desempenho computacional principal, o poder computacional total do Atlas 950 SuperPoD na precisão FP8 atinge 8 EFLOPS, e na precisão FP4 atinge 16 EFLOPS. Essas duas capacidades de computação de baixa precisão atendem principalmente ao treinamento de grandes modelos e tarefas relacionadas de inteligência artificial, permitindo que o sistema aumente a capacidade de processamento por unidade de tempo durante cálculos de parâmetros em larga escala. Para tarefas de modelo que exigem operações contínuas de matriz e computação paralela, quanto maior a escala de poder computacional, maiores são os requisitos para transmissão de dados, divisão de tarefas e colaboração entre nós. Portanto, o Atlas 950 SuperPoD projeta simultaneamente a capacidade computacional e a arquitetura de interconexão, em vez de simplesmente empilhar dispositivos independentes em um cluster.
Este supernó adota o protocolo de interconexão de alta velocidade Lingqu, desenvolvido internamente pela Huawei China, e uma arquitetura de interconexão totalmente óptica, com largura de banda de interconexão do sistema atingindo 16,3 PB/s. A rede de interconexão de alta velocidade é responsável por conectar diferentes placas NPU e nós de computação, permitindo que parâmetros de modelo, dados de treinamento e resultados intermediários de computação sejam transmitidos rapidamente dentro do cluster. A arquitetura de interconexão totalmente óptica assume ainda as tarefas de troca de dados entre dispositivos e nós, fornecendo um canal subjacente para a interconexão total e colaboração de 8.192 placas, reduzindo a espera causada pelo transporte de dados durante o treinamento paralelo em larga escala.
Do ponto de vista da estrutura de implantação, a unidade mínima de 64 placas por gabinete oferece condições para a implementação faseada do projeto. Os usuários podem primeiro configurar uma escala básica com base nas necessidades reais de poder computacional e, em seguida, aumentar gradualmente os gabinetes e placas de computação de acordo com o número de modelos, tarefas de treinamento e carga de trabalho, sem a necessidade de implantar o sistema em escala máxima de uma só vez. À medida que o cluster se expande, o protocolo de interconexão de alta velocidade Lingqu mantém a conexão entre diferentes unidades, permitindo que o novo poder computacional seja integrado ao sistema unificado de supernó, em vez de formar recursos computacionais independentes uns dos outros.
A coordenação entre memória e armazenamento é outro componente central do Atlas 950 SuperPoD. O sistema forma um pool de memória compartilhada de 1152 TB por meio da arquitetura de memória e armazenamento elástico EMS, permitindo que diferentes nós de computação acessem e troquem dados dentro de um espaço de memória unificado. Para o treinamento de grandes modelos, parâmetros de modelo, conjuntos de dados e resultados intermediários precisam ocupar continuamente um grande espaço de memória. Se os recursos de memória forem fixados e distribuídos em dispositivos individuais, alguns nós podem ficar com espaço insuficiente, enquanto a memória de outros nós não pode ser totalmente utilizada.
A função do pool de memória compartilhada é unificar o gerenciamento dos recursos de memória distribuídos em diferentes nós, permitindo que as tarefas de computação os acessem dinamicamente conforme a necessidade. A capacidade de memória compartilhada de 1152 TB oferece maior espaço para o treinamento de modelos em larga escala, ao mesmo tempo que reduz a duplicação de armazenamento de dados entre diferentes nós. A arquitetura EMS também conecta ainda mais a memória e os recursos de armazenamento, permitindo que o sistema ajuste a localização dos dados com base no estado de execução das tarefas, em conjunto com a rede de interconexão de alta velocidade para concluir a leitura, troca e processamento de dados do modelo.
O Atlas 950 SuperPoD integra placas de computação, interconexão de alta velocidade, rede totalmente óptica e pool de memória compartilhada em um único supernó, formando uma infraestrutura de nível de sistema voltada para o treinamento de grandes modelos. As unidades de computação são responsáveis pela execução das tarefas do modelo, o protocolo Lingqu e a arquitetura totalmente óptica cuidam da comunicação entre nós, e a arquitetura EMS gerencia de forma unificada os recursos de memória. Cada parte determina em conjunto se as 8.192 placas NPU podem manter uma colaboração estável. A Huawei afirma que esta solução pode reduzir o custo geral do treinamento de grandes modelos em mais de 30%, resultado que depende de múltiplos fatores, como taxa de utilização do poder computacional, eficiência de interconexão e alocação de recursos de memória.
Atualmente, este supernó já passou pela validação comercial com clientes líderes, indicando que o sistema relevante já entrou na fase de aplicação prática, saindo da pesquisa e desenvolvimento técnico e testes de solução. Os primeiros pedidos de compra de algumas empresas de internet de ponta já entraram em fase de entrega, e o foco subsequente do projeto se voltará para a instalação de equipamentos, formação de clusters, depuração do sistema e ativação do poder computacional, permitindo que o supernó passe da entrega de hardware para uma infraestrutura operacional de treinamento de grandes modelos.
Do gabinete único de 64 placas à interconexão total de 8.192 placas, a lógica de construção do Atlas 950 SuperPoD é expandir continuamente a escala de poder computacional por meio de unidades de implantação padronizadas, enquanto mantém a colaboração interna do cluster com interconexão de alta velocidade e memória compartilhada. Com os primeiros pedidos entrando em fase de entrega, o desempenho real desta solução se refletirá principalmente na implantação de clusters em larga escala, estabilidade da interconexão entre nós, escalonamento da memória compartilhada e eficiência do treinamento de modelos. O progresso da engenharia relacionada também se tornará um marco importante para observar a aplicação em larga escala de supernós de computação inteligente nacionais.
