De acordo com pt.wedoany.com-A SK Hynix, em parceria com a TetraMem e a Universidade do Sul da Califórnia, desenvolveu um SoC de computação na memória baseado em memristor, destinado a melhorar a eficiência energética da inferência de redes neurais em dispositivos de IA de borda. Este chip é voltado para modelos leves, utilizando um processador RISC-V embarcado para agendar tarefas.
O memristor é um dispositivo não volátil cujo estado de resistência pode variar e ser mantido de acordo com a corrente ou tensão histórica, permitindo simultaneamente armazenamento e computação. Em chips de IA, os memristores são frequentemente usados para formar matrizes cruzadas, armazenando diretamente os pesos das redes neurais, sendo adequados para inferência de baixo consumo, computação de borda e novas arquiteturas integradas de memória e computação. A computação na memória realiza parte dos cálculos diretamente dentro da matriz de armazenamento, evitando a transferência repetida de dados entre o processador e a memória, reduzindo assim a latência e o consumo de energia, sendo comum em multiplicação de matrizes de redes neurais, inferência convolucional e aceleradores de IA de borda.
Este SoC integra 10 unidades de processamento neural (NPU), com uma capacidade total teórica máxima de aproximadamente 2,54 TOPS. Uma das NPUs é dedicada exclusivamente a tarefas de convolução profunda, enquanto as outras nove são responsáveis por convolução ponto a ponto e operações densas. A NPU dedicada à convolução profunda utiliza oito módulos de matriz cruzada em zigue-zague de 252 por 28, mantendo o design de DAC e ADC. Cada uma das nove NPUs padrão possui uma matriz cruzada de memristor de 256 por 256, 256 DACs de 8 bits, 256 ADCs de 8 bits e circuitos de controle correspondentes.
Como a precisão de programação efetiva de um único dispositivo memristor é ligeiramente superior a 2 bits, o design adota uma técnica de compensação de matriz dupla, elevando a precisão efetiva dos pesos para aproximadamente 4 bits. A precisão de inferência ponta a ponta medida é de 80,36%, consistente com o modelo de software de 4 bits correspondente. Em termos de desempenho, o pico de throughput de uma única NPU é de 0,254 TOPS, com eficiência energética de 21,3 TOPS/W a uma frequência de 100 MHz e 11,9 TOPS/W a 400 MHz.
