Modal, nos Estados Unidos, planeja adotar processadores Nvidia Vera

De acordo com pt.wedoany.com-Em 19 de outubro, a empresa norte-americana de computação em nuvem para inteligência artificial Modal anunciou o plano de adotar a unidade central de processamento Nvidia Vera para fornecer suporte computacional ao seu serviço de computação isolada em nuvem Modal Sandboxes. A empresa já recebeu o primeiro servidor Vera e concluiu os testes preliminares de desempenho; em testes de tarefas de inteligência artificial de alta concorrência, a taxa de transferência de tarefas do processador Vera atingiu até o dobro da de sistemas equivalentes com Intel Granite Rapids. A Modal planeja introduzi-lo em sua infraestrutura computacional existente para dar suporte à execução de agentes de IA e a tarefas de aprendizado por reforço.

Anteriormente, a Modal utilizava principalmente processadores x86 da Intel e da AMD para fornecer recursos computacionais em nuvem a desenvolvedores de inteligência artificial. Seu serviço Sandboxes é capaz de executar simultaneamente centenas de contêineres e máquinas virtuais em um único servidor, realizando compilação de código, recuperação de arquivos, testes de programas e tarefas automatizadas. A empresa continuará mantendo processadores Intel e AMD e selecionará a plataforma de hardware de acordo com as diferentes cargas computacionais.

A equipe de engenharia da Modal desenvolveu a ferramenta de teste Agentless Agent Bench, que utiliza 50 tarefas originadas do Terminal-Bench para testar os processadores Vera, Intel Granite Rapids, AMD Zen 5 e Amazon Graviton. Os testes abrangem cargas de trabalho como compilação de código, operações Git, busca de arquivos e simulação de dispositivos. Os resultados mostram que o Vera obteve menor latência em alguns testes de tarefa única e, após o aumento do número de contêineres simultâneos, a vantagem na taxa de transferência de tarefas se ampliou ainda mais.

O processador Nvidia Vera adota a arquitetura de núcleo própria Olympus, equipado com 88 núcleos de CPU, suporta 176 threads e atinge largura de banda de memória LPDDR5X de até 1,2 TB por segundo. O processador pode ser usado tanto em servidores de CPU independentes quanto implantado em conjunto com GPUs Nvidia na plataforma computacional Vera Rubin. A infraestrutura existente da Modal opera principalmente na arquitetura x86; a adoção da arquitetura compatível com Arm utilizada pelo Vera exige ajustes no ambiente de operação dos servidores, na construção de imagens de contêiner e nos sistemas de software relacionados.

A Modal concluiu recentemente um financiamento de 750 milhões de dólares, com avaliação de mercado de 15,75 bilhões de dólares. A empresa está colaborando com a Nvidia e provedores de serviços em nuvem para promover a implantação do processador Vera, com planos de utilizá-lo em agentes de IA e tarefas de aprendizado por reforço. O Vera já concluiu os testes internos na Modal, mas ainda não foi totalmente implementado em seu cluster computacional de produção.