De acordo com pt.wedoany.com-A Intel testou o desempenho de inferência da GPU Arc Pro B70 da GUNNIR no modelo DeepSeek R1. Os resultados mostram que, em cenários de alta concorrência, a taxa de transferência de tokens desta placa de vídeo supera a das NVIDIA RTX 5090D e RTX 4090D.

O teste utilizou uma configuração de quatro placas de vídeo em paralelo, comparando os modelos Intel Arc Pro B70 32GB, NVIDIA RTX 5090D 32GB e RTX 4090D 24GB. O modelo testado foi o DeepSeek R1-Distill Qwen 32B FP16, com comprimento fixo de entrada/saída de 128 tokens e faixa de concorrência de 1 a 512. O principal indicador de desempenho foi a taxa de transferência em tokens/s, usada para medir a eficiência de saída durante a inferência de modelos de linguagem de grande porte.

Com concorrência inferior a 32, a RTX 5090D ficou em primeiro lugar, a RTX 4090D em segundo, e a Arc Pro B70 teve desempenho semelhante ao da RTX 4090D. Quando a concorrência subiu para 32 e 64, a Arc Pro B70 igualou e superou a RTX 4090D. Com concorrência de 128, a taxa de transferência de tokens da Arc Pro B70 foi 8,6% maior que a da RTX 5090D e 34,2% maior que a da RTX 4090D. Com concorrência de 256, a vantagem da Arc Pro B70 aumentou ainda mais, sendo 7,5% superior à RTX 5090D e 48,7% superior à RTX 4090D. Com concorrência de 512, também foi observada uma vantagem de desempenho semelhante.

Neste teste, a taxa de transferência máxima de tokens da GPU Intel Arc Pro B70 atingiu 2320,76 tokens por segundo.