De acordo com pt.wedoany.com-A OpenAI publicou recentemente o seu Quadro de Governança de Fronteira (Frontier Governance Framework, FGF), fornecendo aos líderes empresariais um plano estruturado para expandir a implementação de IA de forma segura e em conformidade a nível global. Este quadro alinha-se diretamente com o Código de Conduta para a Inteligência Artificial de Uso Geral da UE (EU's General-Purpose AI Code of Practice) e a Lei de Transparência na IA de Fronteira da Califórnia (Transparency in Frontier AI Act, TFAIA), detalhando como construir sistemas internos e processos de implementação para suportar com segurança modelos de aprendizagem automática de alto desempenho.
A aplicação de grandes modelos de linguagem continua a evoluir para arquiteturas sustentáveis e de nível empresarial. O quadro agora publicado pela OpenAI define risco sistémico como um risco significativo de dano grave previsível, incluindo especificamente cenários onde um modelo cause mais de 50 mortes ou 1.000 milhões de dólares em danos materiais num único evento. Embora estes cenários estejam na periferia extrema da probabilidade, a sua definição normativa permite que as equipas de implementação construam salvaguardas de segurança adequadas, alocando antecipadamente recursos computacionais e horas de engenharia para monitorização contínua pós-implementação e auditorias de terceiros.
A OpenAI classifica as ameaças em domínios específicos: ciberataques, riscos químicos, biológicos, radiológicos e nucleares (QBRN), manipulação nociva e perda de controlo. O sistema de classificação utiliza diferentes níveis de risco para avaliar as capacidades do modelo. Por exemplo, uma classificação de nível três para ciberataques aplica-se a modelos melhorados por ferramentas capazes de identificar e desenvolver explorações de dia zero sem intervenção humana; na categoria QBRN, um modelo de nível três poderia permitir que especialistas desenvolvessem novos vetores de ameaça altamente perigosos, comparáveis aos agentes biológicos de Categoria A do CDC. O quadro também descreve riscos de manipulação nociva, como operações de influência ou interferência eleitoral, uma área que a OpenAI indica ainda estar numa fase exploratória, exigindo mitigação através de medidas a nível de sistema, como a monitorização pós-implementação. Em relação ao risco de perda de controlo, os modelos de nível dois demonstram capacidade para escapar a vários métodos de avaliação, enquanto os de nível três podem operar de forma autónoma por períodos mais longos, com elevada consciência situacional e capacidade de ocultação.
No que respeita à integração segura, a OpenAI alinha a sua segurança interna com as normas ISO 27001, 27017, 27018 e 27701, realizando simultaneamente avaliações SOC 2 Type II. Para proteger os pesos de modelos não publicados, a empresa utiliza encriptação para dados em repouso e em trânsito, autenticação multifator e protocolos de aprovação por múltiplas partes, sendo a execução do modelo realizada em ambientes sandbox com exportação restrita. Quando as empresas replicam esta configuração, estabelecem uma linha de base de segurança para as suas operações internas. Ao integrar em ambientes de dados empresariais proprietários, cada pedido de API passa primeiro por um classificador de segurança antes de chegar à base de dados vetorial, sendo o contexto recuperado filtrado antes da geração da resposta final.
Para manter uma linha de base de risco precisa, a OpenAI solicita a opinião de especialistas externos do domínio e avaliadores terceiros independentes, realizando testes de stress em modelos que se aproximam de novos níveis de risco. De acordo com o Regulamento de Inteligência Artificial da UE (EU AI Act), a empresa avalia semestralmente se deve atualizar o Relatório de Modelo de Segurança e Proteção (Safety and Security Model Report) para os seus modelos mais poderosos. Se as capacidades do modelo sofrerem alterações substanciais após o treino ou se a integração com sistemas internos aumentar o risco, é necessária uma atualização do relatório. A responsabilidade pela conformidade com a UE é assumida pela OpenAI Ireland Limited, enquanto a OpenAI OpCo LLC gere as obrigações ao abrigo da TFAIA nos EUA. A OpenAI também adotou um Plano de Resposta a Incidentes de Segurança de IA (AI Safety Incident Response Plan, AIRP), que estipula procedimentos de triagem, investigação e comunicação externa de incidentes de segurança, sendo os potenciais incidentes sinalizados através de monitorização automática, comunicação por funcionários ou feedback do utilizador final. As atualizações do quadro podem ser propostas por vários líderes, incluindo o responsável pelos sistemas de segurança, o diretor de segurança da informação (CISO) e o consultor jurídico geral, e a empresa realiza uma avaliação formal do quadro pelo menos a cada 12 meses, avaliando alterações legais, novas capacidades dos modelos e normas do setor.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
