De acordo com pt.wedoany.com-Com a aceleração da iteração da tecnologia de grandes modelos, o token, como a unidade mínima de informação de entrada e saída dos grandes modelos, está a evoluir de um termo técnico nos bastidores para um conceito-chave na era da economia inteligente. De acordo com dados estatísticos da Administração Nacional de Dados da China, até ao final de março de 2026, o volume diário de chamadas de tokens no país ultrapassou os 140 biliões, um aumento de mais de mil vezes em comparação com o início de 2024. Os tokens estão a tornar-se cada vez mais um padrão central para medir a capacidade de serviço dos modelos, a eficiência da utilização da capacidade computacional e a maturidade da indústria. Serviços de token de alta qualidade, que integram a otimização do treino e inferência de modelos a jusante e capacitam a implementação de aplicações em milhares de indústrias a montante, desempenham um papel crucial na consolidação da base de fornecimento de grandes modelos e na libertação do valor das aplicações de inteligência artificial.
Para promover o desenvolvimento de alta qualidade dos serviços de token na China, a Academia Chinesa de Tecnologia da Informação e Comunicação (doravante designada "CAICT"), em conjunto com a Huawei Cloud, Ant Digital Technologies, Mobile Jiutian, Unicom Digital Intelligence, JD Cloud, Lenovo Baiying, Inspur Haiyue, Haohui Technology, Tianyun Data e Paiyun Cloud, um total de 10 entidades, lançou conjuntamente o "Plano de Ascensão da Capacidade de Serviço de Token" (doravante designado "Plano de Ascensão"), e formulou e publicou a "Linha de Base de Ascensão do Desempenho do Serviço de Token para Cenários Empresariais Gerais".
Linha de Base de Ascensão do Desempenho do Serviço de Token para Empresas (Cenário Geral) – Primeira Edição
Tokens de Saída por Segundo (TPS) ≥ 55 tokens/segundo
Latência do Primeiro Token (TTFT) ≤ 0,9 segundos
Taxa de Sucesso de Chamadas ≥ 99,9%
Este "Plano de Ascensão" tem como direções centrais o estabelecimento de referências, a melhoria do desempenho, a estabilização do serviço, a redução de custos e a agregação do ecossistema, focando-se nos principais desafios e problemas comuns durante o processo de implementação da engenharia de serviços de token. Combinando os dados de monitorização da "Plataforma de Monitorização do Desempenho do Serviço de Token para Grandes Modelos" da CAICT, fornece referências de desempenho atualizadas trimestralmente para a indústria e publica periodicamente as empresas que atingem o "Plano de Ascensão", promovendo a atualização dos serviços de token da fase "utilizável" para a fase "bom uso e acessível".
O Instituto de Pesquisa em Inteligência Artificial da CAICT dedica-se há muito tempo à investigação de políticas, desenvolvimento tecnológico, definição de padrões, construção de ecossistemas e testes e avaliação no domínio da inteligência artificial. No próximo passo, continuará a promover o "Plano de Ascensão da Capacidade de Serviço de Token" para acelerar o desenvolvimento de alta qualidade dos serviços de token.
Primeiro, continuar a recrutar empresas para o plano de ascensão, convidando mais empresas a aderir e desafiar o "Plano de Ascensão", melhorando conjuntamente o desempenho da capacidade dos serviços de token em cenários gerais. Ao mesmo tempo, a CAICT irá otimizar as ferramentas e métodos de teste da capacidade de ascensão dos serviços de token, garantindo o funcionamento eficaz do mecanismo de atualização dinâmica da linha de base de ascensão.
Segundo, construir conjuntamente planos de ascensão a nível industrial, em colaboração com empresas líderes e fornecedores de tecnologia de vários setores, para construir linhas de base de ascensão da capacidade de serviço de token para cenários verticais da indústria e definir caminhos de ascensão.
Terceiro, fornecer uma avaliação abrangente da capacidade de pilha completa para serviços de token de alta qualidade. Por um lado, continuar a iterar e aperfeiçoar a plataforma de teste de desempenho (TokenBenchX) e os conjuntos de dados de teste dedicados, fornecendo avaliações profissionais de desempenho abrangente para empresas de serviços de token. Por outro lado, focar-se em todo o processo de produção e operação dos serviços de token, bem como na qualidade e segurança do serviço, fornecendo uma avaliação da capacidade de pilha completa dos serviços de token.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
