Empresa chinesa Xiyu Technology planeja lançar modelo de grande porte com 2,7 trilhões de parâmetros no terceiro trimestre

De acordo com pt.wedoany.com-A Xiyu Technology MiniMax planeja lançar uma nova geração de modelo de grande porte, com o codinome interno M3 Pro, cuja escala de parâmetros chega a 2,7 trilhões. O modelo deve ser lançado e disponibilizado como código aberto já no terceiro trimestre deste ano, com foco em raciocínio complexo, processamento de tarefas em múltiplas etapas, execução de agentes inteligentes e geração de código.

A escala de parâmetros do M3 Pro é significativamente maior que a do MiniMax M3. O MiniMax M3 possui um total de 428B parâmetros, com 23B parâmetros ativados, adotando uma estrutura de ativação esparsa que, durante a inferência, utiliza apenas parte dos parâmetros para concluir o cálculo. Se o M3 Pro atingir o nível de 2,7 trilhões de parâmetros, seu foco não será apenas "aumentar o modelo", mas sim melhorar a capacidade de decomposição de problemas em cadeias longas, chamada de ferramentas, geração de engenharia de código, execução em múltiplas rodadas e manutenção do estado da tarefa, por meio de maior capacidade de especialistas, roteamento de tarefas mais forte e caminhos de raciocínio mais complexos. Para modelos de agentes inteligentes, a escala de parâmetros precisa servir à capacidade de execução; o modelo deve ser capaz de dividir as necessidades do usuário em etapas, selecionar ferramentas, ler o contexto, gerar resultados intermediários e continuar corrigindo o caminho da tarefa com base no feedback.

O MiniMax M3 foi oficialmente lançado como código aberto em 15 de junho, com um total de 428 bilhões de parâmetros e 23 bilhões de parâmetros ativados. O modelo é voltado para tarefas de codificação e agentes inteligentes, possuindo capacidade de decomposição autônoma de tarefas, chamada de ferramentas, raciocínio em múltiplas etapas e processamento de contexto longo, com o objetivo de geração de código passando de "funcionar" para "entregável".

A direção técnica do M3 Pro continuará a se concentrar em tarefas de agentes inteligentes. O raciocínio complexo não se limita a problemas matemáticos ou perguntas e respostas, mas sim a conectar a compreensão do repositório de código, análise de requisitos, localização de erros, modificação de arquivos, execução de testes, otimização de desempenho e entrega de resultados em um fluxo contínuo. As tarefas em múltiplas etapas não se resumem a chamar o modelo uma vez para gerar uma resposta, mas sim a fazer o modelo circular entre busca, leitura, planejamento, chamada de ferramentas, execução de operações e verificação de resultados. Se a MiniMax abrir o código do M3 Pro, os desenvolvedores poderão testar a capacidade de execução de modelos com parâmetros maiores em implantações locais, nuvens privadas, plataformas de agentes inteligentes internas de empresas e fluxos de trabalho de código.

A Xiyu Technology foi fundada no início de 2022, desenvolvendo modelos multimodais próprios e aplicações nativas de IA, com serviços que abrangem mais de 200 países e regiões, atendendo a mais de 300 milhões de usuários individuais, além de fornecer serviços a mais de 1 milhão de clientes empresariais e desenvolvedores em mais de 100 países e regiões. Seu portfólio de produtos inclui modelos multimodais de grande porte, aplicações de IA, plataformas abertas e ferramentas para desenvolvedores, com capacidades de modelo que se estendem de texto, imagem, vídeo e voz a tarefas de código e agentes inteligentes.

Se o M3 Pro for lançado como código aberto conforme o cronograma, ele continuará a ampliar a capacidade do modelo e as capacidades de agente inteligente com base no MiniMax M3. A cadeia técnica se concentrará na estrutura do modelo de 2,7 trilhões de parâmetros, estratégia de ativação esparsa, janela de contexto longo, interface de chamada de ferramentas, avaliação de tarefas de código, estabilidade de raciocínio em múltiplas etapas e custo de implantação de código aberto; esses fatores determinarão se ele pode passar de "modelo maior" para "modelo de execução de agente inteligente mais forte".