De acordo com pt.wedoany.com-A Academia Chinesa de Tecnologia da Informação e Comunicação (CAICT) divulgou os resultados mais recentes do monitoramento de desempenho do serviço de Tokens de Grandes Modelos no "Seminário de Serviço de Tokens de Alta Qualidade" realizado em 16 de junho de 2026. Qin Sisi, gerente sênior de negócios do Departamento de Plataforma e Engenharia do Instituto de Pesquisa em Inteligência Artificial da CAICT, apresentou e interpretou o "Relatório de Monitoramento de Desempenho do Serviço de Tokens de Grandes Modelos (Nuvem Pública, 2026)". O monitoramento mostra que, em 2026, a taxa de sucesso de chamadas do serviço de Tokens de Grandes Modelos em nuvem pública doméstica foi geralmente estável, com o número de Tokens de saída por segundo (TPS) e a latência do primeiro token (TTFT) aumentando simultaneamente, e os preços do serviço apresentaram uma recuperação significativa.
A CAICT iniciou o trabalho de monitoramento de desempenho do serviço de Tokens de Grandes Modelos no final de 2024, tendo atualmente formado um sistema de monitoramento integrado de "padrão-indicador-dados-plataforma". Este sistema, com base em padrões relevantes como o "Método de Teste de Desempenho do Serviço de Inferência de Grandes Modelos" (ITU-T F.PEM-LLM, 2026-0478T-YD, AIAT/T 0221-2025), projetou um conjunto abrangente de indicadores de desempenho e conjuntos de dados de teste multidimensionais, realizando monitoramento de desempenho 24 horas por dia através de servidores localizados em diferentes regiões geográficas. Até maio de 2026, mais de cem serviços de Tokens de Grandes Modelos em nuvem pública foram testados, cobrindo o desempenho de engenharia de serviços de Tokens de Grandes Modelos originais nacionais e estrangeiros, bem como modelos de código aberto como DeepSeek, Qwen, GLM e Kimi em diferentes plataformas. Em termos de frequência de monitoramento, solicitações são enviadas continuamente de servidores em diferentes localizações geográficas em diferentes horários do dia. Desde o final de maio de 2026, a frequência de monitoramento da taxa de sucesso de chamadas foi atualizada para uma vez a cada 5 minutos, a fim de capturar flutuações de serviço de forma mais sensível.
Os dados de monitoramento revelam três observações principais. Primeiro, a taxa de transferência e a latência dos Tokens de Grandes Modelos aumentam simultaneamente. No cenário doméstico, de janeiro a abril, a taxa de sucesso de chamadas dos modelos originais atingiu mais de 99,9%, e a proporção de serviços de Tokens com taxa de sucesso de chamadas de 100% aumentou de 75% para 83%. Em maio, devido ao aumento da frequência de amostragem de monitoramento de 15 vezes por dia para uma vez a cada 5 minutos, mais indisponibilidades esporádicas foram capturadas, resultando em uma queda geral da taxa de sucesso de chamadas para 99,79% e uma redução da proporção de 100% para 39%.
Em relação ao indicador TPS, o valor médio doméstico de janeiro a maio aumentou de forma constante, com um aumento de 73,12% em maio em comparação com o total de 2025. Dois modelos apresentaram TPS superior a 100 tokens/segundo, com o máximo ultrapassando 200 tokens/segundo, uma média de 66,22 tokens/segundo e uma mediana de 53,68 tokens/segundo. O TPS geral dos modelos estrangeiros manteve-se num nível relativamente alto, com o Gemini-3.1-pro-preview atingindo 158,37 tokens/segundo e o GPT-5.5 atingindo 64,08 tokens/segundo. A média em maio foi de 99,03 tokens/segundo, ainda superando significativamente os valores domésticos.
Quanto à latência do primeiro token, o TTFT médio doméstico de janeiro a maio aumentou de 0,8 segundos para 1,09 segundos, um aumento de 36,25%. Em maio, o TTFT mínimo foi de 0,4 segundos, o máximo atingiu 1,64 segundos, e 47% dos modelos tiveram TTFT inferior a 1 segundo. Três modelos estrangeiros com grande número de parâmetros apresentaram TTFT superior a 1 segundo, com uma média de 1,8 segundos, sendo o Gemini-3.1-pro-preview o mais longo, ultrapassando 2 segundos. O relatório aponta que o aumento do TTFT não é uma mera degradação de desempenho, mas o resultado da combinação de múltiplos fatores, como o aumento do número de parâmetros do modelo, do comprimento do contexto e do volume de chamadas.
Segundo, os Grandes Modelos estão evoluindo em direção ao "retorno ao valor" e ao "salto de capacidade". Em termos de preços de mercado, os preços dos serviços de Tokens em 2026 apresentaram uma recuperação significativa. O preço normalizado por milhão de Tokens no segundo semestre de 2025 era de 6,8 yuans, subindo para 10,3 yuans em 2026, um aumento de 51%, mas ainda muito abaixo do nível de preço de cerca de 120 yuans dos modelos mainstream estrangeiros. O relatório enfatiza que o custo real de uso precisa considerar tanto o preço unitário quanto a eficiência do consumo de Tokens. Durante o processo de inferência, os modelos estrangeiros consomem menos Tokens, mas devido aos preços elevados, o valor total gasto ainda é alto, sendo GPT e Claude os dois modelos de maior consumo. Os modelos domésticos geralmente consomem mais Tokens, mas devido aos preços baixos, o valor total gasto é relativamente baixo.
O comprimento do contexto dos modelos continua a se expandir para a escala de milhões. Em maio, a proporção de modelos domésticos com comprimento de contexto de 1M (um milhão de Tokens) era de 35,3%, e a proporção com 200K ou mais totalizava 88,3%, um aumento de mais de 60% em relação ao final de 2025. Os comprimentos de contexto das séries mais recentes de modelos da OpenAI, Anthropic e Google no exterior já atingiram 1M ou mais. Os Grandes Modelos de código aberto nacionais tornaram-se a escolha mainstream em muitas plataformas globais. Entre as 22 plataformas MaaS nacionais e estrangeiras pesquisadas, as taxas de disponibilidade das séries DeepSeek e Qwen atingiram 100%, enquanto as taxas das séries GLM, Kimi e MiniMax atingiram 91%, 86% e 82%, respectivamente.
Terceiro, o desempenho de inferência dos modelos de código aberto varia significativamente entre diferentes plataformas MaaS. O desempenho do mesmo modelo varia consideravelmente entre plataformas, indicando diferenças significativas na otimização de engenharia do lado da plataforma. O TPS de quatro modelos de código aberto domésticos em diferentes plataformas concentrou-se em torno de 50 tokens/segundo, e o TTFT concentrou-se em torno de 1 segundo. A taxa de sucesso de chamadas geral aproximou-se de 100%, mas a taxa de sucesso de chamadas de modelos individuais em algumas plataformas ainda era inferior a 90%, indicando que a estabilidade do serviço da plataforma ainda tem espaço para otimização adicional.
A CAICT afirmou que o próximo passo do trabalho de monitoramento de desempenho do serviço de Tokens será aprofundado em quatro aspectos. Primeiro, otimizar o sistema de monitoramento, aumentando o monitoramento de indicadores de desempenho de Grandes Modelos multimodais, encurtando o ciclo de publicação de relatórios e aprimorando as funções de análise automatizada e alerta da plataforma. Segundo, abrir gradualmente os dados de monitoramento para fornecer suporte de dados para pesquisa científica, análise do setor e seleção de aplicações. Terceiro, criar plataformas de monitoramento regionais para fornecer serviços personalizados para regiões e grupos, servindo como referência de admissão de serviço para fábricas de Tokens. Quarto, fortalecer o mecanismo de supervisão da qualidade do serviço e alerta de anomalias, realizando análises aprofundadas de problemas e supervisão de qualidade para situações anormais.
A CAICT continuará a colaborar com todos os setores da indústria, apoiando-se no Grupo de Trabalho de Serviços de Tokens (em preparação) da Aliança da Indústria de Inteligência Artificial da China (AIIA), para aprofundar e promover o trabalho em torno da elaboração de padrões, do Projeto de Escalada, da compilação de relatórios de pesquisa e da avaliação e implementação de padrões, acelerando a construção de um ecossistema de serviço de Tokens de alta qualidade.
