De acordo com pt.wedoany.com-A empresa de infraestrutura de IA Neurometric AI lançou uma plataforma automatizada de engenharia de tokens e anunciou a conclusão de um financiamento de US$ 4 milhões no início deste ano. A plataforma visa ajudar empresas a gerenciar o custo e o desempenho de cargas de trabalho de agentes.
Ao migrar agentes de IA do estágio experimental para a produção, um único fluxo de trabalho pode gerar dezenas de chamadas de modelo. Muitas empresas ainda enviam cada tarefa para modelos de fronteira (frontier models), mesmo quando modelos menores e mais baratos podem alcançar resultados iguais ou melhores. A Neurometric avalia essas chamadas individualmente, modifica prompts conforme necessário e roteia cada tarefa para o modelo mais econômico que atenda ao limite de desempenho exigido; quando não há opção adequada, cria um modelo de linguagem pequeno (small language model) construído especificamente. Para cargas de trabalho simples e de alto volume, a plataforma gera automaticamente modelos de linguagem pequenos especializados para otimizar a velocidade e o custo da tarefa.
"No último ano, as empresas provaram que agentes de IA podem executar trabalhos cada vez mais complexos. Agora precisam provar que, quando esses agentes operam em escala, a economia ainda faz sentido", disse Rob May, CEO da Neurometric. "Cada chamada de modelo também é uma decisão de precificação, e essas decisões se acumulam ao longo do fluxo de trabalho do agente. A engenharia de tokens oferece às empresas uma maneira de controlar custos sem sacrificar a qualidade."
Atualmente, as empresas dependem de testes manuais e soluções pontuais individuais para decidir quais modelos devem lidar com diferentes tarefas de IA. Com a entrada de novos modelos no mercado e mudanças em preços, velocidade e desempenho, essas escolhas podem rapidamente se tornar obsoletas. A Neurometric integra em uma única plataforma o roteamento de modelos (model routing), a criação de modelos de linguagem pequenos e o acesso a um mercado de modelos de linguagem pequenos (SLM) pré-treinados e específicos para tarefas. Seu Gerenciador de Endpoints de Tarefas (Task Endpoint Manager) avalia solicitações recebidas com base em dados atualizados continuamente de desempenho e precificação de modelos, roteando cada tarefa de acordo com os requisitos de precisão, custo e latência do cliente. Quando nenhum modelo existente atende a esses requisitos, seu Criador Automático de SLM (Auto-SLM Creator) constrói e fornece um modelo de linguagem pequeno para a tarefa específica. O mercado de SLM da plataforma também permite que clientes acessem modelos já desenvolvidos para cargas de trabalho comuns e repetitivas.
Em contatos iniciais com clientes, modelos roteados ou criados pela Neurometric alcançaram precisão até 20 pontos percentuais maior do que modelos de fronteira, ao mesmo tempo que reduziram custos e latência.
A Neurometric concluiu um financiamento de US$ 4 milhões no início deste ano, com a participação de Betaworks, ex-Ante, Everywhere.vc, Encoded, Vermillion, Abstraction e Mu Ventures, além de investidores-anjo como Jason Calacanis, co-apresentador do All-In Podcast, e Dharmesh Shah, CTO da Hubspot. Os recursos serão usados para expandir as equipes de engenharia e pesquisa em IA, fornecendo mais ferramentas de otimização para sua plataforma principal.
A Neurometric posiciona a engenharia de tokens como uma disciplina que decide como cada tarefa em uma carga de trabalho de IA deve ser executada com base na qualidade, custo e velocidade desejados. Diferente da engenharia de prompts (prompt engineering), que foca em melhorar as instruções dadas ao modelo, a engenharia de tokens determina qual modelo deve receber a tarefa primeiro e se um modelo mais especializado deve ser criado para lidar com ela. À medida que as empresas implantam mais agentes de IA, mais chamadas de modelo são geradas por fluxo de trabalho individual e o número de modelos disponíveis continua crescendo, espera-se que a demanda por essa capacidade aumente. Atualmente, a plataforma está disponível em neurometric.ai, e a empresa planeja se reunir com clientes, investidores e a mídia durante a AI Engineer World's Fair, que ocorrerá de 29 de junho a 2 de julho em São Francisco.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
