De acordo com pt.wedoany.com-O Diretor de Operações do Google Cloud, Francis de Souza, ofereceu recomendações sobre estratégias de segurança de IA empresarial durante um evento em Los Angeles. Ele defendeu que as empresas adotem uma abordagem de plataforma para incorporar a segurança em todo o processo de desenvolvimento de IA e apontou que a indústria está a passar por um período de transição de uma defesa predominantemente liderada por humanos para uma defesa autónoma nativa de IA. De Souza afirmou que a segurança não deve ser um elemento adicionado posteriormente, nem pode ser totalmente deixada ao critério dos funcionários. Alertou especificamente para o fenómeno da "IA Sombra", onde os funcionários usam ferramentas de IA de consumo fora da supervisão organizacional, defendendo que as empresas devem exigir que as plataformas sejam seguras, governáveis e auditáveis desde o início.
De Souza sublinhou que não existe uma verdadeira estratégia de IA sem uma estratégia de dados e uma estratégia de segurança, e que ambas devem avançar em conjunto. Negou que as suas recomendações fossem apenas uma promoção do Google Cloud, salientando o compromisso da Google com uma estratégia multi-cloud, uma vez que mesmo as empresas que afirmam usar uma única cloud dependem frequentemente de aplicações SaaS e de parceiros de negócio que colaboram entre clouds. Considera crucial que as empresas tenham uma postura de segurança consistente em todas as clouds e modelos.
De Souza observou que o panorama de ameaças mudou fundamentalmente, com o tempo médio desde a intrusão inicial até à passagem para a fase seguinte de um ataque a diminuir de 8 horas para 22 segundos, e a superfície de ataque a estender-se muito além do perímetro de rede tradicional. Além dos ativos convencionais, as empresas precisam agora de proteger novos elementos como modelos, pipelines de dados de treino, agentes e prompts. Mencionou especificamente uma ameaça que ainda não recebeu a devida atenção: agentes de IA que se movem dentro dos sistemas internos da empresa podem descobrir repositórios de armazenamento de dados que não eram descobertos há anos e cujos controlos de acesso não foram atualizados, expondo assim os dados neles contidos.
Na sua perspetiva, a solução é combater a velocidade da máquina com a velocidade da máquina. Afirmou que está a surgir um tipo de defesa nativa de IA e totalmente autónoma, onde as organizações podem executar agentes que conduzem as suas próprias defesas, deixando de ser necessária uma defesa liderada por humanos ou mesmo com humanos no circuito, passando estes a supervisionar sistemas de defesa completamente autónomos. Isto já não é apenas uma questão técnica, mas uma questão de liderança, envolvendo o conselho de administração e a equipa executiva.
No entanto, mesmo com a IA a assumir mais tarefas de defesa, ainda existe uma lacuna de talentos qualificados para supervisão, e as vulnerabilidades introduzidas pela própria IA estão a multiplicar-se a um ritmo mais rápido do que a capacidade das equipas de segurança para as resolver. A Diretora de Segurança da Informação do LinkedIn, Lea Kissner, declarou esta semana ao The New York Times que a indústria precisará de, pelo menos, vários anos para compreender a segurança da IA de forma sustentável.
Relacionado com isto estão os problemas dos próprios fornecedores de plataformas. O The Register noticiou recentemente vários casos de programadores do Google Cloud que receberam faturas elevadas devido a chamadas de API não autorizadas ao modelo Gemini. Rod Danan, CEO da plataforma de preparação para entrevistas Prentus, afirmou que a sua chave de API comprometida foi explorada por atacantes, gerando uma fatura de 10.138 dólares em 30 minutos. O programador de Sydney, Isuru Fonseca, descobriu que a sua conta tinha acumulado cerca de 17.000 dólares australianos em custos, apesar de ter definido um limite de gastos de 250 dólares. Sem o conhecimento de ambos, o sistema automatizado da Google elevou o seu nível de faturação para um limite de 100.000 dólares com base no histórico da conta, sem consentimento explícito. A Google reembolsou posteriormente as taxas a ambos, mas afirmou não ter planos para alterar a política de atualização automática de nível.
Além disso, uma investigação da empresa de segurança Aikido descobriu que, mesmo que um programador detete uma chave comprometida e a elimine imediatamente, os atacantes podem continuar a usar essa chave por até 23 minutos, porque a revogação da Google se propaga gradualmente pela sua infraestrutura. Durante este período, a taxa de sucesso é imprevisível, com mais de 90% dos pedidos a serem ainda autenticados em determinados minutos, permitindo aos atacantes explorar esta janela temporal para roubar ficheiros e dados de conversas em cache do Gemini. O investigador da Aikido, Joseph Leon, salientou que as credenciais de API de conta de serviço mais recentes da própria Google podem ser revogadas em cerca de 5 segundos, e o formato de chave mais recente com prefixo AQ do Gemini demora cerca de um minuto, o que indica que a janela de 23 minutos não é uma limitação de engenharia, mas sim uma questão de prioridade da empresa.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
