De acordo com pt.wedoany.com-Pesquisadores da Microsoft descobriram uma vulnerabilidade no fluxo de automação do GitHub do Claude Code, da Anthropic, que pode levar ao vazamento de informações confidenciais em fluxos de trabalho de integração contínua/entrega contínua, permitindo que invasores roubem credenciais sensíveis por meio de ataques de injeção de prompt.

A equipe de inteligência de ameaças da Microsoft iniciou esta pesquisa após detectar tentativas de injeção de prompt direcionadas a fluxos de trabalho do GitHub assistidos por inteligência artificial em repositórios de código público. A injeção de prompt é uma classe de vulnerabilidade de segurança em inteligência artificial na qual invasores incorporam instruções enganosas no conteúdo processado por modelos de grande escala, manipulando o comportamento do modelo para ignorar instruções predefinidas. Os pesquisadores exemplificaram que invasores ocultaram instruções injetadas em comentários HTML, que são invisíveis na interface de exibição do GitHub, mas podem ser identificados por modelos de inteligência artificial que leem o código-fonte Markdown original. Na época, o repositório utilizava automação do GitHub para processar automaticamente issues.

Os invasores podem disfarçar instruções maliciosas como solicitações de funcionalidades comuns, sem precisar de permissão para modificar o projeto — basta enviar uma issue no GitHub para enganar o robô de inteligência artificial e fazê-lo executar alterações em seu lugar. A Microsoft confirmou que o mesmo tipo de injeção de prompt também pode ser usado para atacar o fluxo de automação do GitHub do Claude Code, da Anthropic. Anteriormente, a Anthropic havia configurado proteções de sandbox para algumas ferramentas, mas a Microsoft descobriu que a ferramenta de leitura usada pelo Claude para ler arquivos não estava sujeita às mesmas restrições de segurança. Os pesquisadores criaram uma carga de ataque de injeção de prompt para testes de verificação, na qual o prompt malicioso conseguiu contornar duas camadas de proteção, induzindo o assistente de inteligência artificial a ler arquivos do sistema que continham chaves de API e outras credenciais.

Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com