De acordo com pt.wedoany.com-A Transwarp, da China, lançou o banco de dados cognitivo nativo em GPU (Transwarp Cognitive Database), que integra banco de dados SQL, base de conhecimento e sistema de memória, visando fornecer suporte unificado de dados, conhecimento e memória para Agentes de IA, reduzindo o custo e a barreira para a implementação em larga escala de aplicações nativas de IA.
A IA empresarial está evoluindo de modelos de linguagem de grande escala para perguntas e respostas para Agentes de IA. Diferentemente dos modelos de linguagem de grande escala que respondem uma única vez, os Agentes de IA executam ciclos contínuos de "raciocínio-ação-observação-correção" em torno de um objetivo, acessando repetidamente dados, recuperando conhecimento, chamando ferramentas e atualizando o estado da tarefa. A Transwarp aponta que as arquiteturas tradicionais de CPU possuem apenas dezenas a centenas de núcleos de computação de uso geral, com largura de banda de memória de cerca de 100-400 GB/s. Ao lidar com tarefas de alta frequência, múltiplas rodadas e concorrentes, a transferência de dados entre CPU e GPU torna-se um gargalo crítico. Reconstruir a arquitetura de computação do banco de dados centrada na GPU pode utilizar seus milhares de núcleos paralelos e memória de alta largura de banda de nível TB/s para suportar cargas de trabalho altamente paralelas, como varredura de dados em larga escala, agregação complexa, análise de documentos e computação vetorial. Simultaneamente, através da tecnologia GPU-Initiated Direct Storage (GIDS), a GPU inicia diretamente o acesso ao armazenamento, reduzindo a transferência de dados e a cópia de memória.
O banco de dados alcançou cinco avanços técnicos. Primeiro, aceleração de análise de dados estruturados por GPU. No teste TPC-DS SF1000, completou 99 tarefas de consulta, com desempenho 70 vezes superior ao do banco de dados de CPU de código aberto DuckDB; em comparação com Snowflake e Databricks, o desempenho foi até 66 vezes superior e a relação custo-benefício até 14 vezes superior. Segundo, aceleração de processamento de documentos e recuperação de conhecimento por GPU. Com base no serviço de análise de documentos COSMIC, o desempenho de processamento em documentos complexos do OmniDocBench aumentou 10 vezes; a construção de índices vetoriais por GPU teve desempenho até quase 50 vezes superior, e a taxa de transferência de recuperação foi até 238 vezes superior. Na adaptação à capacidade de computação nacional, a otimização para a DCU da Haiguang foi concluída, reduzindo a construção de índices vetoriais de dias para minutos, com desempenho de recuperação até 58 vezes superior ao da CPU. Terceiro, a utilização de memória de vídeo aumentou 20 vezes. Através da otimização de descarregamento de dados e pesquisa de índices, o consumo de memória de vídeo foi reduzido para cerca de 5%. Mesmo descarregando 95% dos dados relacionados à computação para a memória ou SSD, a taxa de transferência de pesquisa ainda pode atingir 12 vezes a dos índices tradicionais de CPU. Quarto, a capacidade de memória atingiu precisão geral de 79,6% e 92,8% nos benchmarks BEAM 500K de memória episódica de longo prazo e LongMemEval-S de memória de diálogo longo, respectivamente. Quinto, suporte a comandos em linguagem natural, convertendo automaticamente as necessidades do usuário em fluxos de trabalho de dados executáveis, integrando todo o processo de desenvolvimento, governança, análise e geração de relatórios de dados.
Na validação de cenários reais, no teste OfficeQA Pro de perguntas e respostas complexas de conhecimento empresarial, que incluiu quase 10.000 páginas de boletins do Tesouro dos EUA de quase um século e 133 tarefas de raciocínio, o desempenho de inferência de IA ponta a ponta melhorou cerca de 6 vezes, com precisão atingindo 79,3%. Na retroanálise de fatores quantitativos financeiros, o desempenho foi até 5881 vezes superior em comparação com a solução de CPU. Na análise de risco e operação de ciclo completo de crédito, com 480 milhões de registros de detalhes, o desempenho geral melhorou 449 vezes.
Além disso, a Transwarp lançará serviços em nuvem de banco de dados cognitivo, incluindo Data Factory e Token Factory. O Data Factory pode alcançar mais de 10 vezes de melhoria de desempenho com o mesmo custo, suportando migração com um clique de bancos de dados em nuvem como Snowflake e Databricks. O Token Factory pode aumentar a taxa de transferência de entrada em 10 vezes e a taxa de transferência de saída em 20% a 80%, para melhorar a eficiência de inferência de IA em nível empresarial.
Nota: Os dados de desempenho e avaliação no texto são provenientes de resultados de testes internos da Transwarp e benchmarks públicos. O desempenho específico é afetado pela configuração de hardware e software, escala de dados e métodos de teste.
