Radar ·
Como Blackwell move a acumulação de matmul para Tensor Memory
Radar: post técnico que descreve Tensor Memory em Blackwell como espaço separado de 256 KB por SM para resultados de Tensor Cores, e afirma, segundo o autor, que isso reduz a emissão de matmul de 128 threads para uma.
Segundo o post, Tensor Memory em Blackwell é um espaço separado de 256 KB por SM destinado aos resultados dos Tensor Cores. O autor afirma que essa organização permite reduzir a emissão de matmul de 128 threads para uma.
O material mostra como Tensor Memory altera o armazenamento dos acumuladores e o modelo de threads usado em matmul na GPU. Como se trata de um bookmark técnico, vale consultar o original para confirmar a descrição da arquitetura, o contexto e a metodologia do autor antes de citar qualquer número.
Fonte original: Como Blackwell move a acumulação de matmul para Tensor Memory