LangChain, em parceria com a NVIDIA, otimiza modelo com custo de inferência de apenas um décimo do de modelos fechados

De acordo com pt.wedoany.com-A LangChain ajustou seu framework Deep Agents para o modelo NVIDIA Nemotron 3 Ultra, alcançando a maior precisão entre modelos abertos, ao mesmo tempo que conclui mais tarefas com maior taxa de transferência, com um custo de inferência por execução de apenas um décimo do dos principais modelos fechados.

De acordo com os benchmarks Deep Agents da LangChain, o Nemotron 3 Ultra atingiu o mesmo nível dos modelos fechados de alta pontuação em tarefas comerciais. Todas as melhorias resultam da otimização de engenharia no ambiente ao redor do modelo, e não no próprio modelo.

Equipes que utilizam o NVIDIA Nemotron 3 Ultra podem executar avaliações continuamente, realizar experimentos mais rapidamente e construir agentes especializados em mais áreas de negócios.

A plataforma de engenharia de agentes da LangChain tem mais de 200 milhões de downloads mensais. Ao ajustar especificamente seu framework Deep Agents para o NVIDIA Nemotron 3 Ultra, a plataforma oferece agentes de alto desempenho, que concluem mais tarefas, operam mais rapidamente e fornecem às empresas uma pilha totalmente aberta.

"A melhor maneira de construir melhores agentes é melhorar continuamente os sistemas ao redor do modelo", afirmou Harrison Chase, cofundador e CEO da LangChain. "Quando as equipes conseguem ajustar de forma coordenada memória, uso de ferramentas, avaliação e comportamento do modelo, esses elementos se potencializam mutuamente. Nossa parceria com a NVIDIA mostra que as empresas podem obter desempenho poderoso de uma pilha aberta, mantendo ao mesmo tempo o controle sobre o sistema de agente que estão construindo."

Abridge, Amdocs e Box estão incorporando agentes especializados diretamente em suas plataformas, enquanto a integradora global de sistemas EY está expandindo suas capacidades de implementação da NVIDIA com o blueprint NVIDIA NemoClaw para LangChain Deep Agents.

O fundador e CEO da NVIDIA, Jensen Huang, conversou recentemente com Chase sobre os avanços na IA disponível para empresas nos últimos seis meses.

Engenharia de framework, não ajuste fino. A equipe da LangChain executou o Nemotron 3 Ultra em seu conjunto de testes públicos Deep Agents, analisou as trajetórias de execução dos agentes profundos e identificou precisamente os pontos de perda. A equipe ajustou o framework ao redor do modelo, ou seja, prompts do sistema, descrições de ferramentas e middleware, sem retreinar o modelo. O perfil ajustado está disponível diretamente através da LangChain.

O NVIDIA NemoClaw para LangChain Deep Agents é um blueprint de referência aberto que encapsula este trabalho para empresas que constroem sua própria IA especializada. Ele combina o código do LangChain Deep Agents ajustado para o Nemotron 3 Ultra com o runtime de segurança NVIDIA OpenShell para execução segura de operações de agentes. Modelo aberto, framework aberto e runtime de segurança aberto significam que as empresas podem possuir toda a pilha de ponta a ponta e personalizá-la com base em seu próprio conhecimento especializado.

O NemoClaw para LangChain Deep Agents e o perfil de modelo ajustado do Nemotron 3 Ultra já estão disponíveis. Desenvolvedores da LangChain podem acessar o Nemotron 3 Ultra nas plataformas Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius e Together AI. A EY pode ajudar empresas a construir agentes especializados usando esta pilha de software aberta.