De acordo com pt.wedoany.com-A empresa chinesa Shishi Technology lançou a fábrica nacional de otimização de tokens "Tuoyuan (Vectron)" na WAIC 2026, em Xangai, com o objetivo de melhorar a eficiência de utilização da capacidade computacional da infraestrutura de IA. O fundador e presidente da empresa, Yan Bowen, destacou no evento que a China já construiu mais de 50 centros de computação inteligente, com uma capacidade total de computação inteligente superior a 1000 EFLOPS, mas a eficiência média de utilização ainda tem enorme espaço para melhoria, com grande desperdício de capacidade computacional e desempenho insuficiente em contextos longos e respostas multimodais sendo fenômenos comuns.
Yan Bowen afirmou que, durante o período do "15º Plano Quinquenal", o investimento total na indústria de capacidade computacional da China deve atingir 7 trilhões de yuans. Se a eficiência de utilização da capacidade computacional for aumentada em 10 a 20 pontos percentuais, será possível liberar um valor de capacidade computacional na casa dos trilhões. Ele acredita que a competição na infraestrutura de IA está passando de uma "corrida de escala de capacidade computacional" para uma "corrida de eficiência de capacidade computacional".
O produto "Tuoyuan" constrói um sistema completo de otimização da infraestrutura de IA, focando em resolver problemas como a programação unificada de capacidade computacional heterogênea, otimização profunda de inferência de grandes modelos, pressão de memória em contextos longos e adaptação ao ecossistema de chips nacionais. A plataforma é totalmente compatível com mais de 10 tipos de chips de capacidade computacional nacionais, incluindo Ascend, Kunlun Core, Tianshu Zhixin, Taichu, Hanbo Semiconductor, Moore Threads, Muxi e Suiyuan, além de se adaptar a mais de 20 modelos principais, realizando programação unificada e aceleração de inferência para o pool de capacidade computacional heterogênea nacional, com uma taxa de transferência diária de tokens na casa das centenas de bilhões.
Em termos de tecnologia central, o "Tuoyuan" adota a tecnologia de compressão KV Cache orientada por percepção de resultados, que pode reduzir a pressão de memória sem sacrificar o efeito do modelo. Em cenários de inferência multimodal completa, ele utiliza um método de compressão de tokens sem treinamento baseado em adaptação modal, filtrando informações para diferentes entradas, como texto, vídeo e áudio. Para otimização de contextos longos, o "Tuoyuan" emprega um método de treinamento de preferência de contexto longo sintetizado por índices de posição mistos e um mecanismo de releitura guiado por memória, alcançando melhorias de efeito com uma quantidade de dados de treinamento muito menor do que métodos similares. Além disso, o produto inclui um método de modelagem de recompensa escalável baseado em meta-recompensa, suportando a auto-otimização do sistema de inferência, e uma estratégia de memória de informação orientada a objetivos, garantindo a execução estável de tarefas de longo prazo do agente.
A Shishi Technology foi fundada em 2021, com a equipe fundadora originária do Departamento de Ciência da Computação da Universidade de Tsinghua. Os membros principais são compostos por especialistas em computação de alto desempenho, inteligência artificial e acadêmicos de universidades como Tsinghua, Pequim e Beihang. A empresa já atendeu mais de 200 clientes, abrangendo setores como internet, empresas de grandes modelos, aeroespacial, biofarmacêutica e novas energias.
