Laboratório Thinking Machines Lança Modelo Open-Source Inkling com 975 Bilhões de Parâmetros

De acordo com pt.wedoany.com-O Thinking Machines Lab, fundado por Mira Murati, ex-diretora de tecnologia da OpenAI, lançou o modelo de pesos abertos Inkling. Com um total de 975 bilhões de parâmetros, o modelo utiliza uma arquitetura de especialistas mistos, ativando apenas cerca de 41 bilhões de parâmetros para uma determinada tarefa. Ele suporta uma janela de contexto de até 1 milhão de tokens e foi treinado em 45 trilhões de tokens de dados de texto, imagem, áudio e vídeo. O Inkling é capaz de raciocinar sobre texto, imagens e áudio, mas atualmente gera apenas saídas de texto, incluindo código e dados estruturados.

O Thinking Machines Lab não afirma que o Inkling está no topo do ranking de desempenho. Seu próprio material o descreve como "não sendo o modelo mais forte atualmente disponível, seja ele fechado ou aberto". O laboratório busca amplitude e adaptabilidade, posicionando o Inkling como um modelo base que as organizações podem ajustar por conta própria, em vez de um chatbot pronto para uso. Os usuários podem equilibrar precisão e velocidade ajustando o "esforço de raciocínio". A empresa afirma que, em um teste de codificação, o Inkling atingiu o mesmo nível consumindo apenas um terço dos tokens do Nvidia Nemotron 3 Ultra. O laboratório também apresentou uma prévia da versão leve Inkling-Small, que possui 12 bilhões de parâmetros ativos, projetada para tarefas que priorizam custo e velocidade.

Todo o lançamento baseia-se numa premissa central: a inteligência artificial treinada e congelada em um único local perderá para modelos que cada organização pode moldar de acordo com seu próprio conhecimento especializado. Os clientes ajustam o Inkling através da plataforma de personalização Tinker do Thinking Machines Lab, detêm os resultados gerados e assumem os riscos de segurança do que constroem. O laboratório cita como exemplo um projeto de colaboração com o fundo de hedge Bridgewater Associates, onde treinaram um modelo de código aberto com base no conhecimento financeiro da Bridgewater. Esse modelo obteve uma pontuação de 84,7% em um teste de raciocínio financeiro, superando modelos proprietários de ponta a um custo extremamente baixo. Esses dados provêm das próprias avaliações das duas empresas, e não de terceiros independentes.

O Thinking Machines Lab enfatiza sua velocidade de desenvolvimento. O TechCrunch observa que a OpenAI levou cerca de cinco anos para lançar e se tornar lucrativa, a Anthropic cerca de três anos, enquanto o laboratório de Murati afirma ter levado aproximadamente nove meses. Para atingir essa velocidade, o laboratório tomou alguns atalhos: para iniciar o treinamento do Inkling, ele dependeu de outros modelos de código aberto, incluindo o Kimi K2.5 da Moonshot AI, uma prática chamada destilação. O laboratório afirma que seu próximo modelo será treinado de forma totalmente autônoma. O Inkling é executado no sistema Nvidia GB300, parte de um acordo de março sobre capacidade de computação de 1 gigawatt da Nvidia.

Atualmente, o Thinking Machines Lab oferece o Inkling totalmente gratuito, gerando receita através da plataforma de personalização Tinker. O financiamento e a equipe do laboratório passaram por turbulências: no ano passado, levantou 2 bilhões de dólares com uma avaliação de 12 bilhões de dólares, enquanto uma rodada de 50 bilhões de dólares teria naufragado; no início deste ano, dois cofundadores saíram, e o número atual de funcionários se recuperou para cerca de 200. O laboratório escreveu em seu manifesto de lançamento: "Acreditamos em manter a estranheza viva."