De acordo com pt.wedoany.com-Ex-pesquisadores de segurança de inteligência artificial da Cisco fundaram uma nova empresa focada em resolver um problema que praticamente não existia antes: proteger a segurança dos agentes autônomos de IA aos quais as empresas confiam as chaves de seus sistemas críticos.

A Tenet Security Inc. lançou hoje uma plataforma projetada para impedir que comportamentos maliciosos de agentes de IA atinjam os sistemas de produção. A tecnologia central da plataforma, chamada "Simulação do Lado do Agente" (Agent-Side Simulation), simula os possíveis próximos passos do agente antes que ele entre em contato com a infraestrutura real.

Se o caminho apresentar risco, a Tenet intervém antes que o dano ocorra e envia um registro de rastreamento explicando o motivo do bloqueio. Enquanto as ferramentas de segurança tradicionais geralmente emitem alertas após a ocorrência de eventos suspeitos, a Tenet tenta identificar o problema antes que o agente realmente execute a ação.

As empresas estão concedendo permissões reais para que os agentes de IA ajam por conta própria. Esses agentes executam código, extraem dados de bancos de dados e fazem alterações em sistemas em tempo real. No entanto, uma vez que o agente está livre no ambiente, a equipe de segurança, na maioria das vezes, não consegue saber o que ele está fazendo. A Tenet afirma que o número de agentes de IA operados por uma organização é geralmente cinco vezes maior do que a equipe de segurança tem conhecimento.

"Os agentes de IA podem ser o maior impulsionador de produtividade que as empresas viram em décadas, e é por isso que as organizações estão os implantando rapidamente", disse Barak Sternberg, cofundador e CEO. "Mas estamos entrando em um mundo onde agentes autônomos interagem com sistemas, dados e outros agentes, e a maioria das ferramentas de segurança nunca foi projetada para entender essas interações."

Sternberg cofundou a Tenet com Nevo Poran. Ambos são pesquisadores de segurança ofensiva que trabalharam na AI Defense da Cisco, estudando como os atacantes visam sistemas autônomos. Anteriormente, eles operavam a empresa de segurança cibernética Wild Pointer, que tinha receita anual de sete dígitos e clientes incluindo empresas da Fortune 500. Ambos já palestraram nas conferências DEF CON e Black Hat.

Antes deste lançamento, a Tenet Threat Labs, braço da empresa, realizou pesquisas sobre "agentjacking" (sequestro de agente). Esta é uma classe de ataques que manipula o agente para executar ações controladas pelo atacante.

O ataque esconde instruções maliciosas no conteúdo que o agente lê, como e-mails, entradas de log ou registros de banco de dados. Quando o agente processa esse conteúdo, as instruções assumem o controle e redirecionam os próximos passos do agente. A Tenet testou em mais de 100 ambientes empresariais e descobriu que milhares de organizações podem estar vulneráveis a ataques. As ferramentas de segurança tradicionais não detectaram o problema porque o agente estava executando operações permitidas, sem acionar alertas.

As implantações iniciais já revelaram a escala do problema. A Tenet afirma que uma empresa do setor jurídico com receita anual recorrente de US$ 1 bilhão, nos seis meses de uso da plataforma, viu o número de agentes implantados crescer de dois para mais de 20 e bloqueou mais de 10 tentativas de ataque, incluindo um grave ataque de cross-site scripting. Em outro cliente da Fortune 1000, a Tenet descobriu que um agente descontrolado consumiu dezenas de milhares de dólares em tokens durante um fim de semana.

"Estamos vendo cada vez mais o próprio agente de IA se tornar parte do caminho do ataque", disse Poran. "O único lugar onde é possível capturar essas ameaças é em tempo de execução, no momento em que o agente decide agir."

Este lançamento é apoiado por um financiamento inicial de US$ 6 milhões, destinado ao desenvolvimento de produtos, à expansão do Tenet Threat Labs e à ampliação das operações no mercado norte-americano. O The Westly Group (um dos primeiros apoiadores da SentinelOne Holdings Inc.) liderou a rodada, com a participação da MizMaa Ventures Ltd. Os consultores da Tenet incluem David Schwed, ex-diretor de segurança da informação da Robinhood Markets Inc., e Rick Scott, ex-diretor de segurança da informação do The Bank of New York Mellon Corp.

Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com