Trust3 AI expande camada de confiança para a plataforma NVIDIA NeMo

De acordo com pt.wedoany.com-A Trust3 AI anunciou planos de expandir sua Camada de Confiança Unificada (Unified Trust Layer) para a plataforma NVIDIA NeMo, uma solução de ponta a ponta para desenvolvimento de modelos e agentes de IA generativa personalizados. Como membro do programa NVIDIA Inception, a Trust3 AI está avançando nessa integração com o objetivo de permitir que empresas gerenciem agentes e aplicações executados no NeMo sem a necessidade de construir sistemas de controle independentes adicionais.

Ao migrar de projetos-piloto para a fase de produção, o principal obstáculo enfrentado pelas organizações não é mais a capacidade dos modelos, mas sim questões de governança. As equipes operacionais têm dificuldade em responder perguntas básicas sobre o controle de agentes: quais agentes estão em execução, a quais dados e ferramentas eles têm acesso, quais operações foram realmente realizadas e se essas informações podem ser verificadas por auditoria. A integração planejada da Trust3 AI com o NeMo visa estabelecer um ciclo fechado de governança no nível das ações.

Após a conclusão da integração, serão fornecidas funcionalidades de descoberta e inventário de agentes para equipes que utilizam o NeMo, abrangendo agentes que possam não estar registrados nas implantações do NeMo; controle de acesso vinculado à finalidade, associando as permissões dos agentes à sua finalidade declarada, em vez de papéis estáticos, com expiração automática das autorizações; implementação de políticas no momento da execução das operações, antes da ativação de ferramentas ou movimentação de dados, com cada solicitação carregando a identidade do agente, a finalidade declarada e as informações de linhagem dos dados; observabilidade completa, capturando prompts, recuperações, chamadas de ferramentas e acessos a dados, permitindo a reprodução e revisão do comportamento dos agentes; e geração de uma cadeia de evidências de auditoria, que pode ser mapeada para padrões como o EU AI Act e o NIST AI Risk Management Framework.

Essa abordagem complementa os mecanismos de controle do próprio NeMo (incluindo o NeMo Guardrails) ao sobrepor uma camada de confiança independente e neutra em relação ao fornecedor. Essa camada de confiança é posicionada abaixo dos agentes, e não em paralelo.

Neeraj Sabharwal, cofundador da Trust3 AI, afirmou que o principal gargalo para as empresas ao passarem da experimentação para a produção no NVIDIA NeMo é a segurança e a governança. A integração posiciona a camada de confiança abaixo dos agentes baseados no NeMo, permitindo que as equipes de segurança e conformidade observem cada agente, protejam e gerenciem cada operação, sem impactar as equipes de entrega de IA. Fundada por engenheiros principais do Apache Ranger e do Apache Atlas, a Trust3 AI possui uma arquitetura de painel de controle único e uma Camada de Confiança Unificada projetada para gerenciar agentes em qualquer estrutura, nuvem ou fonte de dados.