Startup francesa de IA ZML lança software LLM compatível com múltiplos chips

De acordo com pt.wedoany.com-A startup francesa de IA ZML, apoiada pelo vencedor do Prêmio Turing Yann LeCun, lançou um software chamado ZML/LLMD, que permite que vários modelos de linguagem de grande porte (LLMs) de código aberto sejam executados em diferentes chips, incluindo NVIDIA, AMD, Google TPU, Apple Metal e Intel Arc, com o objetivo de quebrar o domínio da NVIDIA no mercado de chips de IA. O fundador da ZML, Steeve Morin, disse ao TechCrunch que o software, atuando como um servidor de inferência LLM, visa dar a empresas e provedores de serviços em nuvem a opção de usar chips híbridos, incluindo chips mais baratos ou mais eficientes em termos energéticos, reduzindo assim os custos relacionados à IA e impulsionando a implantação em larga escala.

Morin mantém uma postura neutra em relação à NVIDIA, reconhecendo que a ZML tem um bom relacionamento com a empresa e observando que ela está se preparando para a crescente demanda por inferência, uma tendência chamada de "corrida do ouro da inferência". O ZML/LLMD não é um produto de código aberto, mas é lançado gratuitamente com o objetivo de estudar padrões de uso. Morin planeja primeiro medir o mercado e depois gerar receita da maneira mais eficaz. Anteriormente vice-presidente de engenharia da Zenly, que foi adquirida pelo Snapchat por nove dígitos de dólares em 2017, Morin, com esse histórico, arrecadou US$ 20 milhões de várias empresas de capital de risco, incluindo Harry Stebbings’ 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. A lista de acionistas também inclui fundadores de outras startups, como Solomon Hykes, fundador da Dagger e Docker, e Clément Delangue e Julien Chaumond, da Hugging Face.

A startup sediada em Paris tem uma equipe de 20 pessoas, e Morin atribui a agilidade à equipe enxuta. Morin enfatiza que startups europeias de IA podem prosperar localmente, mencionando especificamente fabricantes emergentes de chips de IA, como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. Ele acredita que a colaboração da ZML com esses fabricantes pode criar "algo nunca antes visto no mundo". No campo da inferência, a ZML enfrenta concorrentes como a Baseten, avaliada em US$ 13 bilhões, a Inferact, formada pelos criadores do projeto de código aberto vLLM, e a RadixArk, empresa comercial por trás do SGLang. Morin afirma que a ambição da ZML abrange um escopo mais amplo, chegando ao ponto de "co-projetar chips".

Atualmente, o cronograma de produtos pagos do ZML/LLMD e sua adoção subsequente ainda não estão claros, mas com o apoio dos investidores e a base da equipe, a ZML tem potencial para mudar o cenário competitivo da indústria de chips de IA.