OpenAI dos EUA lança modo de bloqueio do ChatGPT para evitar vazamento de dados

De acordo com pt.wedoany.com-A empresa de inteligência artificial dos EUA, OpenAI, lançou um novo recurso de segurança chamado "Modo de Bloqueio", com o objetivo de reforçar a proteção de usuários e organizações que utilizam modelos de linguagem de grande porte para processar informações sensíveis.

O modo foi projetado para detectar e prevenir tentativas de vazamento de dados sensíveis para pessoas inadequadas por meio de ataques de injeção de prompt. A OpenAI afirma que o Modo de Bloqueio não está disponível para todos os usuários, mas sim para pessoas e organizações que lidam com dados sensíveis e desejam uma proteção mais rigorosa contra riscos de vazamento de dados relacionados à injeção de prompt.

Ataques de injeção de prompt são um novo método utilizado por hackers, onde os atacantes podem ocultar instruções, como documentos de código, em páginas da web e enviá-las para modelos de linguagem de grande porte. Ao processar esses conteúdos, os atacantes podem manipular o sistema de IA para obter informações sensíveis. A OpenAI optou por lançar este modo em meio a uma tendência de aumento desses ataques.

Com o Modo de Bloqueio ativado, o ChatGPT restringirá várias funcionalidades do modelo de linguagem de grande porte, incluindo a não captura de imagens da internet ou a geração de imagens, e o download de arquivos pelo usuário para análise também será limitado. No entanto, os usuários ainda poderão enviar arquivos, imagens e documentos para análise. A OpenAI esclareceu que o modo não afetará a memória da conversa nem as configurações de compartilhamento de conversas. Em ambientes corporativos, os administradores terão todas as permissões de configuração e alteração.

Além disso, o ChatGPT adicionou uma ferramenta chamada "Gerenciador de Sessões Ativas", onde os usuários podem visualizar dispositivos logados, incluindo navegadores, e fazer logout remoto de contas em dispositivos não desejados.