De acordo com pt.wedoany.com-Recentemente, a chinesa Sugon (Sugon Information Industry Co., Ltd.) anunciou três planos de atualização de infraestrutura de inteligência artificial , abrangendo sistemas de clusters de computação avançada voltados para IA, a próxima geração de servidores integrados de treinamento e inferência de alto desempenho e sistemas de armazenamento avançado nacional. Os três projetos serão implementados pela própria Sugon, em suas instalações existentes, sem a necessidade de novas áreas de construção, focando em integrar a cadeia tecnológica entre supernós, interconexão de alta velocidade, escalonamento de computação heterogênea, equipamentos de treinamento e inferência de grandes modelos e armazenamento de alto desempenho.
Não se trata de uma simples expansão de servidores. O período de construção do sistema de cluster de computação avançada é de 4 anos, com a tarefa central de desenvolver o sistema de hardware de supernó de computação de próxima geração, o sistema de interconexão de alta velocidade, a pilha de software básico em nível de sistema e a plataforma de gerenciamento e operação de recursos de computação heterogênea. A Sugon planeja aumentar ainda mais a densidade de computação e a eficiência computacional de cada supernó, expandir a escala de interconexão entre aceleradores e, ao mesmo tempo, reservar interfaces de atualização para futuros chips de alto desempenho e novas arquiteturas de hardware, permitindo que o cluster se expanda continuamente de acordo com as tarefas de treinamento, inferência e computação científica de grandes modelos.
Entre eles, a interconexão de alta velocidade será a chave para determinar se todo o sistema pode ser escalado. De acordo com o plano do projeto, o novo sistema de interconexão será voltado para cenários de alta carga de comunicação, como treinamento distribuído, computação paralela e troca massiva de dados, com o objetivo de alcançar capacidade de expansão linear em nível de 100.000 placas e reservar espaço tecnológico para clusters de mais de 1 milhão de placas. À medida que o número de aceleradores aumenta, as tarefas computacionais não dependem mais apenas do desempenho de uma única placa; a latência de comunicação entre placas, a eficiência da troca de dados e a capacidade de coordenação entre nós afetam diretamente a taxa de utilização geral da computação. Portanto, este projeto desenvolve a rede de interconexão e o hardware do supernó dentro do mesmo sistema, em vez de simplesmente conectar diferentes dispositivos para formar um cluster.
A parte de software será reformulada simultaneamente. A Sugon planeja usar um ambiente de software básico unificado para abstrair as diferenças de hardware subjacente, otimizar o gerenciamento de memória, entrada/saída e comunicação paralela, e gerenciar uniformemente diferentes tipos de hardware de computação, como CPU, GPU e NPU. Após a conclusão do sistema, ele realizará escalonamento dinâmico para tarefas como treinamento de grandes modelos, inferência, computação científica e serviços em nuvem, reduzindo os custos de adaptação entre diferentes chips, servidores e plataformas de software. O projeto propõe que, após a otimização coordenada de hardware e software, o custo total de uso por placa seja reduzido em mais de 30% em comparação com as soluções atuais, e o consumo de energia por Token ao processar modelos com centenas de bilhões de parâmetros seja reduzido em 50%. Esses indicadores ainda precisam ser verificados em pesquisas, testes e implantações em larga escala subsequentes.
Enquanto os clusters de computação resolvem problemas de organização de recursos em larga escala, os servidores integrados de treinamento e inferência são voltados para salas de servidores corporativos e cenários de aplicação única. O período de construção deste projeto é de 3 anos, e as formas de produto incluirão servidores integrados de IA com 8 placas, servidores integrados de IA com 16 placas e estações de trabalho de resfriamento líquido de nível desktop. Entre eles, os equipamentos de 8 e 16 placas podem ser implantados como unidades básicas de computação em salas de servidores ou centros de computação, enquanto as estações de trabalho de resfriamento líquido de nível desktop são voltadas para aplicações de modelos em menor escala e locais de implantação mais dispersos. O hardware utilizará CPU nacional e aceleradores de IA nacionais, melhorando a eficiência de coordenação entre processadores e aceleradores por meio de uma estrutura de computação unificada.
O método de entrega do equipamento também mudará. Atualmente, alguns servidores de IA são entregues principalmente como hardware independente, com integração limitada com modelos e ferramentas de software. Os produtos de próxima geração integrarão plataforma de hardware, software de sistema, mecanismos de treinamento e inferência, kits de desenvolvimento de modelos, ferramentas de otimização de desempenho e recursos de monitoramento e operação no mesmo dispositivo, acompanhados por uma plataforma de implantação e gerenciamento de grandes modelos tudo-em-um, uma cadeia de ferramentas de aceleração de treinamento e inferência e uma plataforma de serviço integrada. O objetivo é centralizar a importação, adaptação, depuração, implantação e gerenciamento de operação de modelos em um único sistema, reduzindo a barreira técnica para as empresas construírem ambientes privados de grandes modelos.
O armazenamento nacional é outra linha principal entre os três projetos. O período de construção deste projeto também é de 3 anos, e será baseado em CPU nacional, controladores de entrada/saída e controladores de rede para desenvolver matrizes all-flash nacionais, usando PCIe Switch nacional para substituir alguns componentes não nacionais. O sistema de hardware também ajustará a topologia PCIe, introduzirá processadores de nova geração e melhorará a capacidade de expansão do armazenamento enquanto reduz o consumo de energia de todo o equipamento. Para treinamento de grandes modelos e processamento de dados multimodais, o sistema de armazenamento não só precisa armazenar dados massivos, mas também fornecer continuamente capacidade de leitura de dados de alta largura de banda e baixa latência para os nós de computação; caso contrário, os aceleradores podem ficar ociosos enquanto aguardam dados.
O software de armazenamento não se limitará a atualizações tradicionais de leitura e gravação de arquivos. O projeto adicionará suporte para SMB, NFS e protocolos privados de IA, atualizará as tecnologias de "super túnel" e gerenciamento eficiente de índices, e fortalecerá o design de confiabilidade para sistemas de arquivos, dados persistentes, dados de aplicação e dados de cache. Os produtos subsequentes cobrirão armazenamento distribuído de nova geração, armazenamento de arquivos paralelo de alta velocidade, armazenamento inteligente e armazenamento nativo em nuvem, para se adaptar às frequentes chamadas de dados, processamento massivo de dados não estruturados e acesso concorrente de múltiplos nós durante o treinamento de grandes modelos.
Os três projetos já foram registrados separadamente, com os números [2026] 124, 125 e 126 da Comissão de Investimento e Aprovação de Alta Tecnologia de Tianjin, e todos serão implementados nas instalações existentes da Sugon. De acordo com o cronograma atual, o período de construção do sistema de cluster de computação é mais longo, enquanto os projetos de servidores integrados de treinamento e inferência e armazenamento nacional têm prazos mais concentrados. As próximas etapas se concentrarão principalmente no desenvolvimento de equipamentos principais, desenvolvimento de plataformas de software, testes de protótipos, adaptação de equipamentos completos e verificação de aplicações em larga escala.
Do ponto de vista da estrutura do projeto, a Sugon está integrando supernós, interconexão de alta velocidade, escalonamento de computação, servidores integrados e sistemas de armazenamento em um único sistema de infraestrutura de IA. Os nós de computação são responsáveis pela execução de tarefas, a rede de interconexão lida com a troca de dados em larga escala, a plataforma de software unificada gerencia recursos heterogêneos, os servidores integrados de treinamento e inferência assumem a implantação de modelos corporativos, e o armazenamento nacional fornece dados continuamente para treinamento e inferência. Somente com a atualização síncrona de todos esses componentes, a capacidade computacional de clusters de 100.000 placas pode ser transformada em poder computacional real que pode ser invocado, gerenciado e operado a longo prazo.
