Reino Unido e Austrália assinam cooperação em segurança de IA, mecanismos de avaliação de cibersegurança com colaboração transnacional

De acordo com pt.wedoany.com-Em 25 de maio, o governo do Reino Unido anunciou que o Instituto de Segurança de IA do Reino Unido e o Instituto de Segurança de IA da Austrália assinaram um memorando de entendimento para reforçar a cooperação em torno dos riscos de segurança da IA em rápida evolução. O conteúdo do acordo inclui a partilha de informações sobre capacidades de IA de ponta, a investigação colaborativa sobre as melhores práticas de avaliação de IA, o intercâmbio de resultados de investigação e a atenção ao duplo impacto dos sistemas avançados de IA que podem ser utilizados para ciberataques e para reforçar a defesa cibernética.

Esta cooperação insere-se nos acordos de governação de segurança transnacional na direção da confidencialidade da informação e segurança de dados. À medida que as capacidades dos sistemas de IA na geração de código, análise de vulnerabilidades, testes automatizados e defesa cibernética continuam a melhorar, a avaliação da cibersegurança já não se concentra apenas nas vulnerabilidades de software tradicionais e na configuração do sistema, sendo também necessário avaliar os limites de comportamento do modelo em tarefas de rede complexas, os riscos de utilização indevida e o valor da proteção. O mecanismo de cooperação a nível de institutos estabelecido desta vez pelo Reino Unido e pela Austrália centra-se em ligar a avaliação de modelos, a investigação de segurança e o julgamento político, fornecendo uma base técnica mais estável para a supervisão e aplicação industrial subsequentes.

O anúncio do governo do Reino Unido revela que ambas as partes acompanharão os mais recentes desenvolvimentos da IA de ponta, incluindo a forma como estes sistemas são utilizados para ciberataques e como podem ajudar a reforçar a defesa; simultaneamente, os dois países também desenvolverão as melhores práticas internacionais em torno do teste e avaliação de sistemas de IA. O acordo abre ainda canais para o intercâmbio de pessoal entre os dois institutos, a fim de reforçar a colaboração diária.

A cibersegurança está a tornar-se uma das direções mais urgentes na avaliação da segurança da IA. Os modelos avançados de IA podem ajudar o pessoal de segurança a descobrir vulnerabilidades, gerar sugestões de correção e aumentar a eficiência da deteção de ameaças, mas também podem reduzir as barreiras técnicas para os atacantes realizarem atividades cibernéticas complexas. Para os governos e operadores de infraestruturas críticas, a questão central não é simplesmente julgar se a IA é "segura" ou "insegura", mas sim a necessidade de estabelecer um sistema de avaliação repetível, auditável e comparável, identificando os limites de capacidade e os níveis de risco dos modelos em diferentes tarefas de rede.

A investigação mais recente do Instituto de Segurança de IA do Reino Unido foi também utilizada no anúncio oficial para ilustrar o contexto da cooperação. O anúncio menciona que a capacidade dos sistemas avançados de IA para executar ciberataques complexos está a aumentar rapidamente, trazendo simultaneamente oportunidades tanto ofensivas como defensivas. O lado britânico afirmou que a investigação relevante em IA de ponta continuará a fornecer referências para a formulação de políticas, a fim de proteger as empresas, as infraestruturas críticas e a segurança pública.

Para a indústria das tecnologias de informação e comunicação, este tipo de cooperação terá impacto nos requisitos de conformidade dos produtos de segurança, serviços de modelos, plataformas de nuvem, ferramentas de código e sistemas de operação de segurança empresarial. Com a entrada das capacidades de IA nos centros de operações de segurança, nos fluxos de desenvolvimento de software e na gestão de infraestruturas digitais, as empresas precisam de avaliar mais claramente o que o modelo pode e não pode fazer, quem o autoriza, como é mantido o registo e como é atribuída a responsabilidade em caso de erros de julgamento ou operação. A cooperação transnacional em avaliação ajuda a reduzir a fragmentação das normas entre países e também pode fornecer um quadro de referência mais claro para as empresas implementarem ferramentas de segurança de IA.

A assinatura deste acordo de cooperação em segurança de IA entre o Reino Unido e a Austrália demonstra que a avaliação da cibersegurança está a passar da investigação nacional para uma colaboração contínua entre parceiros de confiança. Os progressos subsequentes centrar-se-ão nos métodos de avaliação, na partilha de resultados de investigação, no intercâmbio de pessoal, na formação das melhores práticas internacionais e na forma como estes resultados se traduzirão em requisitos de segurança reais para empresas, governos e infraestruturas críticas.