Academia Chinesa de Ciências propõe conceito de Cientista de IA para Cibersegurança

De acordo com pt.wedoany.com-Uma equipa de investigação da Academia Chinesa de Ciências (Chinese Academy of Sciences) propôs o conceito de "Cientista de Inteligência Artificial para Cibersegurança" (Cybersecurity AI Scientist) e concebeu um sistema multiagente modular denominado Hefesto (Hephaestus), com o objetivo de automatizar todo o fluxo de trabalho da investigação em cibersegurança. Num artigo recentemente publicado, a equipa descreve este sistema de investigação capaz de realizar autonomamente todo o processo, desde a formulação de questões até à conceção experimental, construção de ferramentas, execução controlada, avaliação e produção de resultados escritos.

Agentes de IA autónomos já começaram a executar tarefas reais de segurança, como explorar vulnerabilidades de software, realizar testes de penetração e encadear etapas de ataque. No entanto, a investigação em cibersegurança progride lentamente e depende fortemente do trabalho humano, limitada pela escassez de especialistas e pela conceção manual de experiências. A equipa espera colmatar esta lacuna.

Hefesto é um sistema multiagente modular que inclui agentes especializados em enquadramento de problemas, modelação de ameaças, geração de ferramentas e elaboração de relatórios. O seu nome deriva do deus ferreiro da épica de Homero, que forjava lanças e escudos, simbolizando a capacidade do sistema para produzir simultaneamente trabalhos ofensivos e defensivos.

Os autores consideram que os sistemas de investigação automatizados existentes, como o Cientista de IA (AI Scientist) e as suas versões subsequentes para aprendizagem automática, bem como o "Cientista Colaborador" (Co-Scientist) e o "Robin" para as áreas da biologia e biomedicina, não podem ser diretamente transferidos para o domínio da cibersegurança. Isto porque os objetos de estudo da cibersegurança se adaptam autonomamente ao serem investigados, as plataformas de modelos, as salvaguardas e o acesso a ferramentas são atualizados mais rapidamente do que um único ciclo de investigação, e a confiança depende de métodos como gémeos digitais, campos de treino cibernético e cadeias de evidência.

A equipa propôs o "enquadramento dos quatro zeros" (four-zeros frame), que define quatro tipos de falhas que o sistema deve abordar: risco (risk), confiança (trust), incidente (incident) e energia (energy). Risco refere-se a defeitos ocultos no software; confiança significa que as ações auxiliares devem permanecer calibradas, garantindo que o operador humano mantém o controlo; incidente refere-se a erros operacionais e à necessidade de ambientes de teste; energia diz respeito às consequências organizacionais e éticas acumuladas a longo prazo. O sistema deve estudar e reduzir cada tipo de falha.

No eixo do risco, o artigo menciona o salto de capacidade dos modelos de ponta. Por exemplo, a versão de pré-visualização do Claude Mythos, lançada pela empresa Anthropic (parte do Projeto Glasswing), teve o seu acesso público restringido devido à sua elevada capacidade de ataque cibernético, estando disponível apenas através de um programa de parceiros sujeito a rigorosa verificação; há relatos de que o modelo já foi utilizado para descobrir em larga escala vulnerabilidades em software amplamente utilizado, incluindo algumas falhas de longa data. O artigo cita o teste de referência CyberGym, que testa agentes contra mais de mil vulnerabilidades reais (provenientes de um grande número de projetos de código aberto), com taxas de sucesso únicas dos modelos de ponta na ordem das dezenas de percentagem, sendo capazes de descobrir autonomamente novas vulnerabilidades de dia zero.

O artigo propõe ainda o conceito de "legiões de agentes resilientes" (resilient agent legions), que subverte o modelo de defesa tradicional. Imagina uma multiplicidade de agentes de defesa redundantes dispersos pela periferia da rede, monitorizando várias camadas, coordenando canais e tarefas de recuperação, com cada agente a transportar uma "cápsula de evento e defesa", um pacote compacto que associa um tipo de evento de segurança à sua rotina de resposta. O conceito tradicional de segurança de terminais transforma-se assim em segurança de agentes, onde o trabalho passa a ser a gestão de grupos de agentes, dependendo do comportamento coletivo para garantir a proteção.

O coautor Lidong Zhai (翟立东) explicou a forma de avaliar o sistema. Descreve os testes de referência de longo prazo como um protocolo longitudinal, que fixa os alvos e perturba ao longo do tempo a pilha de modelos, ferramentas, salvaguardas e o ambiente de ameaças. O resultado é uma matriz de perfil, que relata a produção da investigação, a qualidade das evidências, o fardo da calibração, a robustez face à rotatividade de modelos e ferramentas, a conformidade com a governação e o tratamento de consequências. Salienta que os testes de referência devem ser ponderados pelas consequências, atribuindo maior peso a eventos de alta propagação e elevada perda, uma vez que a própria priorização é parte da capacidade científica.

Lidong Zhai afirmou que os mecanismos de contenção são controlados a quatro níveis: capacidade, função, ambiente e artefacto. A exploração ofensiva, a análise defensiva, a avaliação e as decisões de publicação seguem caminhos de autorização independentes, com o trabalho sensível isolado em gémeos digitais e campos de treino cibernéticos independentes. O artigo ainda não construiu um sistema completo, enfrentando desafios abertos como alvos de defesa heterogéneos e a dificuldade de distinguir, ao nível do código, entre utilizações ofensivas e defensivas. Lidong Zhai considera que o critério final para o Cientista de IA para Cibersegurança não reside apenas na aceleração da investigação, mas também no aumento da serenidade estratégica, numa priorização mais precisa e na conceção de defesas mais duradouras.