Thinking Machines, dos Estados Unidos, lança modelo de IA Inkling 2 Small com 594 bilhões de parâmetros

De acordo com pt.wedoany.com-Em 5 de novembro, a empresa norte-americana de inteligência artificial Thinking Machines Lab lançou oficialmente a segunda geração do modelo de inteligência artificial Inkling 2 Small. O modelo adota arquitetura de mistura de especialistas (MoE), com um total de 594 bilhões de parâmetros, ativando 17 bilhões de parâmetros por inferência, e suporta entrada de texto e imagem, além de intensidade de raciocínio ajustável. O novo modelo já está disponível para serviços de inferência e ajuste fino por meio da plataforma Tinker da empresa, e os pesos completos do modelo estão planejados para serem publicados sob a licença Apache 2.0 após a conclusão dos testes externos de segurança.

O Inkling 2 Small utiliza uma arquitetura Transformer de 48 camadas, ativando 8 de 384 redes de especialistas por Token, combinando mecanismos de atenção local e global. O modelo suporta uma janela de contexto de até 1 milhão de Tokens, é compatível com os formatos numéricos MXFP8 e NVFP4, e pode ser utilizado em desenvolvimento de software, chamadas de ferramentas de agentes, recuperação de conhecimento e tarefas de raciocínio complexo.

De acordo com os dados técnicos divulgados pela Thinking Machines, a primeira fase de pré-treinamento do modelo utilizou 8,4 trilhões de Tokens, executada no sistema de computação NVIDIA GB300 NVL72 por 68 horas, com treinamento no formato nativo NVFP4. A segunda fase utilizou 3,8 trilhões de Tokens de dados de alta qualidade, e as fases subsequentes continuaram a introduzir dados de raciocínio de contexto longo e trajetórias de operação de agentes, sendo que a terceira fase utilizou aproximadamente 320 bilhões de Tokens de dados e a quarta fase utilizou aproximadamente 34 bilhões de Tokens de dados.

Na fase de aprendizado por reforço, a Thinking Machines realizou treinamento conjunto com 2048 GPUs durante 9 dias, completando acumulativamente 1075 etapas de treinamento, mais de 17 milhões de simulações de tarefas, processando mais de 3 trilhões de Tokens, com um volume computacional superior a 4×10²³ FLOPs. As tarefas de treinamento abrangeram desenvolvimento de código, operação de terminal, geração de documentos, raciocínio científico, compreensão visual e chamadas de ferramentas.

Os dados de avaliação de desempenho mostram que o Inkling 2 Small obteve 30,6 pontos no benchmark Artificial Analysis Intelligence Index v5.0, arredondado para 31 pontos no comunicado de imprensa da empresa. No teste de trabalho de conhecimento AA-Briefcase v1.1, o modelo obteve 1527 pontos; no teste JobBench, obteve 70,5%. Os resultados acima mencionados são provenientes da tabela de testes divulgada pela empresa.

O Inkling 2 Small já está disponível para desenvolvedores experimentarem por meio do Tinker Playground, bem como para realizar inferência e ajuste fino de modelos via Tinker. A Thinking Machines planeja abrir os pesos completos do modelo e os checkpoints do modelo na próxima semana, após a conclusão dos testes externos de segurança e da avaliação de red team. A versão atualmente lançada oferece serviços com pesos fechados.