De acordo com pt.wedoany.com-Em 18 de julho, a Shenzhen YunTianLiFei Technology Co., Ltd. (688343.SH) divulgou seu roteiro de Inteligência Artificial para inferência de chips nos próximos dois anos durante a Conferência Mundial de Inteligência Artificial de 2026 (WAIC 2026). A empresa revelou três chips dedicados e suas soluções de coordenação em nível de cluster, deixando claro que está promovendo a inferência de IA de uma "competição de chips individuais" para uma "competição de fábricas de inferência".
Com a transição dos grandes modelos do treinamento para a implantação de inferência em larga escala, a arquitetura tradicional de chips de uso geral, que integra treinamento e inferência, enfrenta gargalos em termos de eficiência e custo. A inferência de grandes modelos é dividida principalmente na fase de Prefill, que processa o contexto de entrada, e na fase de Decode, que gera tokens um a um e exige alta largura de banda de memória e computação, com demandas de hardware drasticamente diferentes entre si.
Com base nessa percepção, a solução da YunTianLiFei "desacopla" a cadeia de inferência. O DeepVerse100P é voltado para cenários de Prefill com contexto de milhões de tokens, visando resolver o problema de contenção de recursos entre Prefill e Decode em arquiteturas tradicionais de compartilhamento. O DeepVerse100D é direcionado para a fase de Decode, com largura de banda de memória várias vezes superior à dos chips convencionais, suportando sistemas de arquitetura de interconexão óptica e Scale-up de 1024 cartões, reduzindo o congestionamento de comunicação em múltiplos nós e a latência de cauda. O DeepVerse100L é voltado para a etapa computacional intensiva de FFN (rede feedforward) na fase de Decode, adotando arquitetura 3D Memory para aumentar significativamente a largura de banda de memória e melhorar a eficiência paralela entre computação e comunicação.
Paralelamente ao lançamento do hardware, a YunTianLiFei propôs uma visão de sistema mais prospectiva. A empresa planeja implantar e operar esses três chips de forma separada e coordenada em clusters heterogêneos de milhares de cartões — ou seja, configurando chips e pools de recursos correspondentes de acordo com as diferentes cargas de trabalho de Prefill, Decode e Decode FFN, formando um sistema de computação heterogêneo coordenado por meio de interconexão de alta velocidade. Chen Ning, presidente e CEO da YunTianLiFei, afirmou que, com a aplicação em larga escala da inteligência artificial, a medição do valor da computação deve focar mais na capacidade do sistema de produzir tokens de forma estável e eficiente. Essa solução estende a otimização de chips do desempenho individual para a eficiência em nível de cluster, reduzindo o custo de geração por token e aproximando-se da visão de longo prazo de "um centavo para cem bilhões de tokens".
O aumento da heterogeneidade do hardware e da escala do cluster impõe maiores exigências à pilha de software. A YunTianLiFei está continuamente construindo a pilha de software IFWA, cobrindo o desenvolvimento de modelos de IA, programação e níveis de sistema, além de fortalecer a adaptação e otimização de operadores PyTorch ATen e frameworks de inferência populares como vLLM e SGLang. Além disso, em maio deste ano, a empresa, em conjunto com várias unidades nas áreas de chips, software, modelos e aplicações, lançou o "Plano 1001", que visa fornecer feedback mais cedo sobre as necessidades de aplicação para o design de chips e sistemas, acelerando a validação técnica e a implementação.
