Coreia do Sul desenvolve em cooperação tripartite sistema de interconexão de alta velocidade para o chip R200

De acordo com pt.wedoany.com-Em 9 de novembro, a empresa sul-coreana de chips de inteligência artificial Rebellions, a SK Telecom da Coreia do Sul e a NVIDIA dos Estados Unidos firmaram um acordo de cooperação tecnológica, com o objetivo de utilizar a tecnologia de interconexão de alta velocidade NVLink Fusion da NVIDIA para conectar o processador neural Rebel R200, de design autônomo sul-coreano, à plataforma de computação de inteligência artificial da NVIDIA, desenvolvendo um sistema de inferência em nível de rack com operação conjunta de GPU e NPU. A SK Telecom planeja implantar os sistemas relacionados em seus data centers de inteligência artificial, e o sistema R200 deverá estar em condições de implantação até 2028.

A Rebellions está desenvolvendo o processador R200 voltado para inferência de modelos de inteligência artificial em larga escala, com foco na otimização de computação de baixa latência e alta eficiência energética, tendo como cargas de trabalho-alvo modelos de inteligência artificial que adotam arquitetura de mistura de especialistas e escalas de parâmetros na casa dos trilhões. A empresa planeja, por meio da tecnologia NVLink Fusion, conectar o processador R200 à rede de interconexão de alta velocidade em nível de rack NVLink da NVIDIA, adotando a arquitetura padronizada de rack MGX e o design de referência para o desenvolvimento do sistema, e utilizando os recursos de fabricantes de design original e fornecedores de componentes do ecossistema MGX para impulsionar a integração de hardware.

As três partes planejam adotar uma arquitetura de inferência desagregada, distribuindo diferentes etapas computacionais do processo de geração de respostas de modelos de inteligência artificial a processadores dedicados. A GPU da NVIDIA é responsável pelo pré-processamento de entrada e pela computação de preenchimento (Prefill), enquanto a NPU da Rebellions assume a computação de decodificação (Decode) para a geração gradual do conteúdo de saída, melhorando a taxa de transferência de inferência e a eficiência no uso de energia por meio da colaboração de recursos computacionais heterogêneos. O referido plano encontra-se atualmente em fase de desenvolvimento planejado, tratando-se da arquitetura de sistema que as partes pretendem implementar.

A arquitetura de rack MGX fornecerá uma base unificada de espaço de rack, fornecimento de energia e design de refrigeração para os sistemas de GPU e NPU, e apoiará a integração e implantação de diferentes processadores na mesma infraestrutura de data center. A SK Telecom utilizará sua capacidade de construção e operação de data centers de inteligência artificial para promover a conexão dos sistemas relacionados com seu modelo de base próprio A.X K2 e com serviços de inteligência artificial voltados ao público, incluindo os serviços no âmbito do projeto sul-coreano "IA para Todos".

O Ministério da Ciência e TIC da Coreia do Sul oferece apoio a esta cooperação, promovendo a integração tecnológica entre a NPU de desenvolvimento autônomo sul-coreano e a infraestrutura de computação de inteligência artificial da NVIDIA. O vice-primeiro-ministro e ministro da Ciência e TIC da Coreia do Sul, Bae Kyung-hoon, propôs no anúncio da cooperação que o governo continuará apoiando a obtenção de resultados concretos nas cooperações relacionadas e promoverá ainda mais a cooperação com a NVIDIA nas áreas de inteligência artificial física e fornecimento de GPU.

O sistema R200 deverá atingir o estado de implantação até 2028. Os trabalhos subsequentes das três partes girarão em torno da interconexão de processadores, do desenvolvimento de sistemas em nível de rack, da arquitetura de inferência desagregada e da aplicação em data centers de inteligência artificial, com a implantação das tecnologias relacionadas baseando-se no progresso do desenvolvimento do sistema.