A chinesa Moore Threads conclui a adaptação do LongCat-2.0 do Meituan

De acordo com pt.wedoany.com-No dia 6 de julho, o Meituan lançou oficialmente como código aberto seu novo modelo de grande porte com trilhões de parâmetros, o LongCat-2.0. No mesmo dia, a Moore Threads, com base em sua placa de computação inteligente GPU multifuncional integrada para treinamento e inferência MTT S5000 e na pilha de software MUSA, concluiu a rápida adaptação deste modelo. O trabalho de adaptação abrangeu todas as etapas do ciclo completo, incluindo carregamento do modelo, inicialização do mecanismo de inferência, otimização de operadores-chave, validação da implantação e verificação de precisão, permitindo que o LongCat-2.0 opere de forma estável e eficiente em inferência na MTT S5000, oferecendo um caminho mais conveniente para desenvolvedores e clientes empresariais implantarem o modelo.

O LongCat-2.0 é um modelo MoE de grande porte com trilhões de parâmetros desenvolvido internamente pelo Meituan, com um total de 1,6T parâmetros, uma média de parâmetros ativados de aproximadamente 48B e uma faixa dinâmica entre 33B e 56B. Este modelo é projetado especificamente para cenários de Agentic Coding, suporta nativamente um contexto ultra longo de 1M e adota um mecanismo de atenção esparsa (LSA) desenvolvido internamente, uma arquitetura de conexão rápida entre camadas ScMoE e um mecanismo de ativação dinâmica de especialistas de computação zero, visando o uso eficiente de recursos e a colaboração multitarefa. Resultados de avaliação abrangentes mostram que o LongCat-2.0 tem desempenho excelente em cenários de Code e General Agent, tornando-se um dos modelos centrais de grande porte para agentes inteligentes mais populares na comunidade global de desenvolvedores.

A equipe técnica da Moore Threads, por meio do mecanismo de inferência de alto desempenho SGLang-MUSA e do ecossistema de software MUSA, focou na estrutura do modelo e nas características de inferência do LongCat-2.0, concluindo a adaptação de ciclo completo, desde a compatibilidade do framework até a otimização de desempenho.

Em termos de suporte de hardware, a MTT S5000 possui capacidade nativa de aceleração FP8 em nível de hardware, oferecendo alta potência computacional, grande capacidade de memória e alta largura de banda por placa, fornecendo suporte estável para entrada de contexto longo, leitura e gravação de KV Cache e inferência de alta concorrência. Combinada com a otimização colaborativa do mecanismo de inferência SGLang-MUSA e da pilha de software MUSA, o LongCat-2.0 pode liberar mais plenamente o desempenho de inferência na MTT S5000, melhorando a eficiência de resposta de serviços online e a capacidade de throughput do sistema.

A Moore Threads adota um caminho de engenharia padronizado, transformando etapas como análise da estrutura do modelo, carregamento de pesos, compatibilidade do framework de inferência, validação de operadores e testes de implantação em um processo, permitindo que o LongCat-2.0 conclua rapidamente a validação de inferência na MTT S5000. Essa abordagem ajuda a reduzir as barreiras de migração e implantação de modelos de ponta em plataformas de computação chinesas.

Focando em cenários como AI Coding, fluxos de trabalho de Agent, perguntas e respostas em bases de conhecimento empresariais e análise de documentos longos, a Moore Threads realizou validação em nível de implantação do pipeline de inferência do LongCat-2.0. Por meio da otimização colaborativa em nível de framework, operadores e escalonamento, a MTT S5000 pode fornecer uma infraestrutura de inferência que equilibra desempenho, estabilidade e escalabilidade.

A obtenção do suporte Day-0 para o modelo LongCat-2.0 representa uma prática de colaboração profunda entre grandes modelos chineses e chips chineses. A Moore Threads afirmou que continuará a contar com a compatibilidade ecológica da pilha de software MUSA no futuro para adaptar as capacidades de modelos de ponta, acelerando a inovação e a implementação de aplicações de grandes modelos com a infraestrutura de GPU multifuncional chinesa.