Naver, da Coreia do Sul, lança ASF 2.0, expandindo a gestão de segurança de IA para todo o fluxo do serviço

De acordo com pt.wedoany.com-A Naver expandiu o escopo da gestão de segurança de IA do modelo em si para os serviços de IA efetivamente utilizados pelos usuários. O núcleo é estender a gestão de riscos do modelo de IA para a gestão de segurança de todo o fluxo, desde o planejamento do serviço até a operação em produção.

A Naver apresentou o sistema de gestão de segurança de IA "ASF (AI Safety Framework) 2.0" no "Fórum de Segurança de Inteligência Artificial de Seul (SFASS)", realizado no dia 8 no distrito de Gangnam, em Seul.

O ASF 2.0 é uma revisão do ASF que a Naver apresentou na Cúpula de IA de Seul (AI Seoul Summit) em 2024. A versão original focava no desempenho e na gestão de riscos do próprio modelo de IA. Esta atualização expande o escopo de gestão para todo o processo, desde a disponibilização do serviço de IA até o uso pelo usuário, incluindo o ambiente de uso real.

Esta reformulação reflete as mudanças na estratégia de serviços de IA da Naver. A empresa reestruturou o sistema de gestão com base em mudanças no ambiente tecnológico e regulatório, como a estratégia "On-Service AI" de aplicação de IA em serviços gerais, como busca AI e agente de IA para compras, o ambiente de múltiplos modelos que combina vários modelos de IA, e a implementação da Lei Básica de Inteligência Artificial. O objeto da gestão de segurança não é mais um único modelo de IA, mas todo o serviço de IA formado pela combinação de vários modelos de IA.

O ASF 2.0 categoriza os riscos que podem ocorrer em serviços de IA por meio da "Taxonomia de Riscos de IA (AI Risk Taxonomy)" e avalia o campo de aplicação do serviço, o escopo de uso e o impacto sobre usuários e sociedade usando a "Matriz de Avaliação de Impacto de IA (AI Impact Assessment Matrix)". Com base nisso, são implementadas medidas de segurança necessárias e, após a implantação, os riscos são continuamente gerenciados por meio de avaliações de segurança e feedback dos usuários.

A Naver também opera simultaneamente o sistema de execução em nível corporativo "CHEC 2.0 (Sistema de Consultoria e Execução de Ética e Segurança de IA da Naver)", que aplica os padrões acima ao processo real de desenvolvimento de serviços. Este é um processo que verifica a segurança da IA com os mesmos padrões, desde o planejamento do serviço até a operação em produção. A "AI Tab", divulgada em junho deste ano, também passou por verificações de segurança por meio do CHEC 2.0, desde a fase de design até a implantação. No futuro, a empresa planeja aplicar gradualmente este sistema a serviços baseados em IA que estão prestes a ser lançados ou já em operação.

Em março deste ano, a Naver criou uma organização especializada em segurança de IA, o "Centro de Segurança de IA (AI Safety Center)", sob a estrutura do Diretor de Responsabilidade Principal (CRO). A empresa gerencia a segurança da IA por meio de um sistema de gestão de três camadas, onde o departamento de serviços, o Centro de Segurança de IA e o conselho de administração desempenham respectivamente as funções de execução, gestão e supervisão.

Song Dae-seop, responsável pela Política de Segurança de IA da Naver, afirmou que, com as mudanças no ambiente tecnológico, de serviços e de políticas em torno da IA, além de tornar um único modelo seguro, está se tornando cada vez mais importante como projetar e operar com segurança serviços que combinam vários modelos de IA. Ele disse que continuará a acumular experiência e know-how em segurança de IA e colaborará com diversas instituições, como academia, órgãos de políticas e especialistas externos, para compartilhar e desenvolver continuamente este sistema.