De acordo com pt.wedoany.com-A OpenAI lançou uma série de medidas de proteção antes do ciclo eleitoral de 2026, com o objetivo de enfrentar os riscos trazidos pela desinformação eleitoral gerada por IA. A empresa afirmou que o foco do trabalho estará em ajudar os usuários a acessar informações sobre votação, apoiar defensores da segurança cibernética e aumentar a transparência do conteúdo gerado por IA.
A OpenAI destacou que os usuários já usam o ChatGPT em vários idiomas para fazer perguntas relacionadas a atividades cívicas, incluindo como se registrar, locais de votação, prazos e consulta de resultados eleitorais oficiais. A partir deste outono, nos Estados Unidos e no Brasil, o ChatGPT fornecerá resultados eleitorais em tempo real da Associated Press na noite da eleição. Nos EUA, a OpenAI fez uma parceria com a Democracy Works para que, quando os usuários fizerem perguntas, o sistema forneça informações sobre votação e registro, cobrindo questões logísticas como locais de votação. A empresa afirmou que, globalmente, continuará a otimizar a pesquisa na web para exibir de forma mais eficaz informações úteis com links para as fontes.
Pesquisadores descobriram que sistemas de IA generativa podem produzir desinformação eleitoral sob comandos específicos, levantando preocupações sobre como a IA pode influenciar a opinião pública e disseminar conteúdo político enganoso. A OpenAI alertou que os usuários estão usando cada vez mais ferramentas de IA para criar conteúdo compartilhado em redes sociais, aplicativos de mensagens instantâneas e sites, o que intensifica as preocupações com deepfakes e mídia manipulada. Para conter esses problemas, a OpenAI investiu em um método de verificação de proveniência em várias camadas para ajudar a verificar se o conteúdo foi criado ou modificado por IA. Na semana passada, a OpenAI introduziu a marca d'água digital SynthID em imagens geradas pelo ChatGPT, Codex e API da OpenAI, que permanece detectável após capturas de tela ou modificações. A empresa afirmou que continuará a restringir o uso de ferramentas para falsificação de identidade política, supressão de eleitores e campanhas enganosas, e a desenvolver sistemas destinados a aumentar a transparência do conteúdo gerado por IA e mídia sintética.
Desde a invasão da Ucrânia, a Rússia foi repetidamente acusada de desestabilizar países que apoiam Kiev por meio de ataques cibernéticos, campanhas de desinformação e outros meios. No ano passado, às vésperas das eleições na Alemanha, redes de bots ligadas à Rússia disseminaram vídeos falsos e conteúdo de mídia, no que as autoridades alemãs descreveram como uma campanha coordenada de interferência. A OpenAI concluiu que é importante permitir que os usuários usem sistemas de IA para entender, explorar e discutir questões políticas, ao mesmo tempo em que se limita o uso indevido por agentes mal-intencionados.
Este texto foi elaborado por Wedoany. Qualquer citação por IA deve indicar a fonte “Wedoany”. Em caso de infração ou outros problemas, informe-nos prontamente, por favor. O conteúdo será corrigido ou removido. E-mail: news@wedoany.com
