Saturn Cloud, dos EUA, faz parceria com Rafay para ajudar operadores de nuvem de GPU a lançar serviços de IA de nível de produção

De acordo com pt.wedoany.com-A Rafay Systems, plataforma de orquestração de infraestrutura de nuvem de GPU, e a Saturn Cloud, plataforma de aplicações de IA, firmaram uma parceria para oferecer, em conjunto, serviços de IA de nível de produção que podem ser entregues em infraestruturas existentes para uma nova geração de provedores de serviços em nuvem, empresas de telecomunicações, provedores de IA soberana e operadores de fábricas de IA de nível empresarial.

Com o crescimento da demanda por infraestrutura de IA, os operadores de nuvem de GPU enfrentam pressão para migrar da oferta de mero acesso a GPUs para a entrega de serviços completos de IA. Os clientes precisam de funcionalidades prontas para uso, como ambientes de desenvolvimento gerenciados, fluxos de trabalho de ajuste fino, serviços de modelo e endpoints de inferência. Construir essa camada de plataforma internamente exige investimentos significativos em recursos de engenharia. A solução integrada da Saturn Cloud com a Rafay visa simplificar esse processo.

A Rafay fornece a camada operacional de infraestrutura para nuvens de GPU, suportando a orquestração de infraestrutura de GPU em data centers, nuvem, ambientes de nuvem híbrida e ambientes soberanos. Os operadores podem, assim, implementar multitenância segura, acesso por autoatendimento, orquestração Kubernetes e SLURM, execução de políticas, medição de uso e rateio de custos. A Saturn Cloud, por sua vez, adiciona a camada de aplicações de IA sobre a infraestrutura gerenciada pela Rafay, oferecendo ambientes de desenvolvimento gerenciados, treinamento distribuído, ajuste fino de modelos, endpoints de inferência compatíveis com OpenAI e medição em nível de token. A combinação das duas plataformas ajuda os operadores a transformar capacidade de infraestrutura em serviços de IA de alto valor.

Mohan Atreya, diretor de produtos da Rafay Systems, afirmou que os operadores de nuvem de GPU não conseguirão competir a longo prazo apenas vendendo capacidade bruta; eles precisam vencer com serviços de IA de nível de produção que sejam fáceis de consumir, governar e monetizar. A Rafay oferece o plano de controle de infraestrutura, e a Saturn Cloud, os fluxos de trabalho de IA, fornecendo juntos aos operadores um caminho da infraestrutura de GPU até serviços de IA geradores de receita. Sebastian Metti, fundador da Saturn Cloud, destacou que a parceria ajuda os operadores a subir do acesso a GPU para serviços de IA.

A solução conjunta é adequada para provedores de serviços em nuvem de nova geração, empresas de telecomunicações, provedores de IA soberana e operadores de fábricas de IA de nível empresarial que precisam entregar serviços de ajuste fino, inferência e hospedagem de modelos, oferecer endpoints compatíveis com OpenAI em sua própria infraestrutura de GPU, suportar espaços de trabalho e ambientes de desenvolvimento de IA exclusivos por locatário, rastrear o uso para rateio de custos ou monetização baseada em tokens, mantendo o controle sobre segurança, governança, residência de dados e operações de infraestrutura. A Saturn Cloud pode ser implantada na infraestrutura gerenciada pela Rafay. Interessados podem entrar em contato com a Saturn Cloud ou a Rafay Systems para avaliação.