De acordo com pt.wedoany.com-A Nutanix, em parceria com a AMD, lançou uma infraestrutura de IA empresarial que combina processadores e aceleradores da AMD, ajudando empresas a executar cargas de trabalho de IA agêntica por meio de infraestruturas privadas e híbridas.
Com a entrada de agentes autônomos de IA em ambientes de produção, a solução visa dar às empresas maior controle sobre a seleção de modelos, governança de dados e custos computacionais. A Nutanix afirma que as organizações podem adotar uma estratégia de modelo em duas camadas, utilizando sistemas de IA de ponta para tarefas complexas de raciocínio, enquanto cargas de trabalho de alto volume são processadas em modelos otimizados executados em infraestrutura privada.
Agentes autônomos podem recuperar informações, interagir com aplicações empresariais e executar fluxos de trabalho longos, atividades que podem gerar um grande número de solicitações de modelo. Quando as organizações dependem principalmente de infraestrutura alugada ou serviços de modelo externos, o uso resultante de tokens pode aumentar os custos operacionais.
A Nutanix propõe o uso de um gateway de agente para direcionar solicitações entre diferentes modelos e ambientes de infraestrutura. O gateway pode aplicar políticas organizacionais, gerenciar controle de acesso e determinar quais cargas de trabalho exigem modelos externos de ponta. Solicitações rotineiras podem ser roteadas para modelos executados na infraestrutura própria da organização, enquanto tarefas mais complexas podem ser enviadas para modelos externos maiores. Essa estrutura visa reduzir a proporção de cargas de trabalho processadas por modelos de custo mais elevado e fornecer às organizações um ponto central de controle para gerenciar o acesso a modelos e as políticas de uso.
Debo Dutta, Diretor de IA da Nutanix, afirmou que ter sua própria inteligência não significa abandonar completamente os modelos de ponta, mas sim dominar o controle sobre roteamento, capacidade e custos, permitindo que modelos caros de ponta sejam usados apenas para uma pequena parte das tarefas que exigem raciocínio complexo em casos extremos, enquanto a maioria das tarefas de alto volume é roteada para modelos altamente otimizados executados com segurança em infraestrutura privada.
A arquitetura combina a Plataforma de Nuvem Nutanix (Nutanix Cloud Platform) e a IA Empresarial Nutanix (Nutanix Enterprise AI) com processadores AMD EPYC e aceleradores AMD Instinct MI355X. A IA Empresarial Nutanix é usada para implantar e executar modelos e aplicações de IA em ambientes de infraestrutura governados, enquanto a Plataforma de Nuvem fornece a camada subjacente de computação, armazenamento e gerenciamento para cargas de trabalho executadas em ambientes privados e híbridos. Manter cargas de trabalho selecionadas de IA dentro da infraestrutura privada ajuda as organizações a manter o controle sobre informações proprietárias e a atender aos requisitos de soberania de dados. A plataforma foi projetada para suportar agentes de longa duração e pode aplicar políticas para determinar quais modelos os agentes podem usar, quais informações podem acessar e onde as cargas de trabalho são processadas.
Os processadores AMD EPYC e os aceleradores AMD Instinct MI355X fornecem recursos computacionais para inferência de modelos e cargas de trabalho empresariais. A Nutanix afirma que a infraestrutura combinada pode suportar ambientes de inferência compartilhados, eliminando a necessidade de sistemas dedicados para cada aplicação de IA ou unidade de negócios. A capacidade compartilhada permite que as organizações distribuam recursos computacionais entre várias cargas de trabalho, melhorando a utilização da infraestrutura. O design é voltado para empresas que desejam expandir suas implantações de IA, mas não querem alocar hardware dedicado para cada modelo ou agente; a infraestrutura centralizada pode atender a várias aplicações, enquanto gerencia governança e políticas de acesso por meio da plataforma.
Os projetos de IA empresarial estão evoluindo de experimentos isolados para sistemas que operam continuamente em processos de negócios. As demandas de infraestrutura dos sistemas de agente diferem das de chatbots independentes ou consultas esporádicas a modelos; os agentes podem permanecer ativos por longos períodos, consultando várias fontes e fazendo solicitações repetidas antes de concluir uma tarefa. À medida que a escala da implantação aumenta, esses padrões de operação podem elevar os custos de computação e tokens, além de aumentar a complexidade da governança de modelos. A estrutura de duas camadas da Nutanix separa o processamento de alto volume das tarefas que exigem modelos de ponta maiores, permitindo que as organizações mantenham a opção de usar sistemas externos, enquanto processam cargas de trabalho mais previsíveis por meio de modelos operados internamente. A plataforma também permite que cargas de trabalho de IA e dados proprietários permaneçam em ambientes de nuvem híbrida e múltipla governados, com controle de acesso, roteamento e políticas gerenciados por meio do gateway de agente e da pilha de software da Nutanix.
A Nutanix afirma que a infraestrutura de inferência compartilhada foi projetada para maximizar o uso das CPUs AMD EPYC e GPUs AMD Instinct MI355X, ao mesmo tempo que suporta agentes de longa duração e controla os custos associados a tokens.
