De acordo com pt.wedoany.com-Bryan Silverthorn, diretor do laboratório de pesquisa de autonomia AGI (AGI Autonomy research lab) da Amazon, afirmou recentemente que a forma de medir a confiabilidade dos agentes de IA está migrando de métricas de desempenho estático para focar em consistência, robustez, previsibilidade e segurança. Silverthorn destacou que as pontuações EVAL, nas quais os padrões da indústria se baseiam, oferecem apenas um instantâneo estático do desempenho, sendo difícil refletir de forma abrangente a previsibilidade dos sistemas de IA em diferentes cenários, o que se torna o principal desafio para as empresas ao concederem acesso a sistemas para agentes de IA.
Silverthorn concedeu entrevista antes da VB Transform 2026, que ocorrerá de 14 a 15 de julho em Menlo Park. Ele revelou que a estratégia da Amazon não parte do pressuposto de que o modelo em si seja seguro e confiável, mas enfatiza a arquitetura de sistema desacoplada. As medidas específicas incluem a introdução de ambientes de sandbox, onde os agentes de IA propõem alterações dentro de limites controlados, que são revisadas por humanos antes da execução. Essa abordagem visa preencher a lacuna de confiança em aplicações empresariais, priorizando interações verificáveis, sendo especialmente adequada para setores de alto risco e sensíveis, como o financeiro.
De acordo com a pesquisa Q2 Pulse Research divulgada pela VentureBeat, entre mais de 100 líderes e compradores de tecnologia sênior, apenas 4% estariam dispostos a confiar apenas em barreiras de modelo para garantir a segurança da IA. Entre as principais preocupações dos entrevistados, 40% temem acesso não autorizado a ferramentas ou dados, e 27% mencionam riscos de manipulação ou injeção de prompts. Silverthorn planeja compartilhar detalhes sobre a construção de uma IA agentiva confiável pela Amazon na VB Transform 2026, além de apresentar como migrar de um encapsulamento de agente único para uma arquitetura de múltiplas ferramentas capaz de se autocorrigir durante a execução.
A conferência também contará com outras palestras focadas em operações e avaliação agentivas, como a de Manasi Joshi, diretora de inteligência e aprendizado de máquina de sistemas da Waymo, que compartilhará a experiência da empresa na construção de IA segura e eficiente no mundo físico.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
