De acordo com pt.wedoany.com-Em 12 de junho, a Autoridade de Desenvolvimento de Mídias e Comunicações de Singapura (IMDA) e a Microsoft assinaram um memorando de entendimento sobre segurança e garantia de inteligência artificial, com foco em avaliação de modelos de IA, pesquisa sobre agentes autônomos, compartilhamento de conhecimento e políticas de acesso a modelos de IA de ponta. O Instituto de Segurança em IA de Singapura também participará dos trabalhos, com o acordo direcionado principalmente para testes de segurança, identificação de riscos e construção de mecanismos de governança após a entrada de sistemas avançados de IA em aplicações práticas.
Esta colaboração concentra-se nos agentes autônomos, que são o tópico mais discutido no desenvolvimento atual da IA. Em comparação com chatbots tradicionais, os agentes autônomos podem utilizar ferramentas, decompor tarefas, executar operações e concluir objetivos de forma contínua dentro de um determinado escopo. Seu potencial de aplicação é maior, e seus limites de risco são mais complexos. Ao adotar tais sistemas, empresas e setor público precisam verificar se o agente pode acessar dados sem autorização, se pode ser monitorado continuamente, se a cadeia de responsabilidade humana é mantida e se comportamentos anômalos podem ser detectados a tempo.
Singapura já havia listado a governança de agentes como prioridade em suas políticas de IA. Em janeiro de 2026, Singapura lançou um quadro de governança de IA voltado para agentes autônomos, enfatizando que as empresas devem estabelecer mecanismos de classificação de riscos, responsabilidade de pessoal, controle técnico e monitoramento operacional ao implantar agentes. Esta colaboração com a Microsoft leva o quadro de governança adiante, para o nível de ferramentas de avaliação, métodos de teste e implementação de políticas.
Um componente importante do acordo é o desenvolvimento conjunto de métodos, ferramentas e benchmarks de avaliação de IA. Quando modelos de IA são aplicados em cenários governamentais, financeiros, de saúde, comunicações, energia e infraestrutura crítica, depender apenas de autotestes dos desenvolvedores do modelo é insuficiente para atender às necessidades de revisão externa. O sistema de avaliação precisa cobrir aspectos como capacidade do modelo, confiabilidade da saída, preconceito e discriminação, segurança cibernética, vazamento de dados, operações não autorizadas e riscos de uso indevido. Para sistemas de IA com capacidade de usar ferramentas, a avaliação deve se estender à cadeia de execução, não se limitando aos resultados de saída de texto.
A avaliação de segurança de IA multilíngue também está incluída no escopo da colaboração. Singapura possui um ambiente multilíngue, com uso simultâneo de inglês, mandarim, malaio e tâmil, entre outros idiomas. Sistemas de IA podem apresentar desempenhos de segurança diferentes em diferentes idiomas. Um modelo que passa em testes de segurança em inglês não significa que seja igualmente estável em outros idiomas. Testes multilíngues podem ajudar a identificar diferenças no tratamento de bypass de prompts, identificação de conteúdo sensível, mal-entendidos entre idiomas e processamento de contexto cultural.
A colaboração também envolve compartilhamento de conhecimento. A IMDA e a Microsoft trocarão resultados de pesquisa em segurança de IA, quadros de governança e experiências práticas, e compartilharão métodos relevantes com parceiros do ecossistema quando apropriado. Para órgãos governamentais, as empresas de tecnologia possuem experiência prática em treinamento, implantação, monitoramento e testes de red team de modelos; para as empresas de tecnologia, o setor público está mais focado em riscos sociais, segurança de infraestrutura e exequibilidade institucional. A conexão entre ambos pode aproximar a pesquisa em segurança de IA de ambientes de implantação reais.
A política de acesso confiável a modelos de IA de ponta é um dos tópicos mais práticos deste acordo. Modelos avançados são geralmente controlados por um pequeno número de empresas, e instituições externas precisam de acesso aos modelos para realizar testes de segurança, mas o acesso envolve segredos comerciais, segurança do sistema e riscos de uso indevido. A IMDA, o Instituto de Segurança em IA de Singapura, a Microsoft e outras agências governamentais estudarão quadros políticos relevantes, explorando como governos e operadores de infraestrutura podem acessar modelos de ponta sob condições controladas para avaliação de segurança e verificação de riscos.
Esse tipo de pesquisa política pode influenciar futuras abordagens regulatórias de IA. Se o governo não conseguir obter permissões de teste suficientes, a avaliação externa tende a ficar restrita a interfaces públicas e amostras limitadas; se o acesso for excessivamente aberto, pode aumentar o risco de engenharia reversa ou uso indevido do modelo. Um quadro de acesso confiável precisa equilibrar profundidade de teste, controle de permissões, mecanismos de confidencialidade, divisão de responsabilidades e uso dos resultados.
Nos últimos anos, Singapura tem integrado consistentemente a governança de IA com suas políticas de economia digital. A segurança da IA não é mais apenas uma discussão sobre princípios éticos; está entrando na fase de ciência de avaliação, benchmarks de teste e ferramentas políticas. Com a colaboração com a Microsoft, Singapura pode aproveitar a experiência em modelos empresariais e serviços em nuvem para aprimorar caminhos operacionais em tópicos como agentes autônomos, avaliação multilíngue e acesso a modelos de ponta.
Para a Microsoft, participar da colaboração de segurança de IA de Singapura também ajuda a implementar seu sistema de IA responsável no mercado asiático. Ao adotar serviços de IA, clientes empresariais e o setor público estão cada vez mais preocupados com a explicabilidade do modelo, segurança do sistema, proteção de dados e comprovação de conformidade. A pesquisa conjunta de métodos de avaliação e quadros de governança pode estabelecer condições de confiança mais claras para o uso de sistemas avançados de IA em cenários governamentais, empresariais e de infraestrutura.
Esta colaboração demonstra que a competição em IA já se expandiu da capacidade do modelo para a capacidade de avaliação de segurança e governança. À medida que agentes autônomos entram em mais processos de negócios, ferramentas de avaliação, regras de acesso e colaboração entre setores se tornarão elementos fundamentais para o desenvolvimento da indústria de IA. O acordo entre Singapura e Microsoft não resultará diretamente em um único produto, mas influenciará a metodologia de teste de modelos de IA, design de políticas e implantação confiável.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
