Radar ·
KATA explora recall em linear attention
Artigo de 16 de setembro de 2026 formula o associative recall em linear attention como um problema de spherical packing e apresenta as ativações KATA, derivadas de um cone homogêneo autodual.
Publicado em 16 de setembro de 2026, o artigo formula o associative recall em linear attention como um problema de spherical packing. Seu escopo é explorar uma abordagem geométrica para a capacidade de recuperar associações nesse tipo de atenção.
O trabalho apresenta Kernelized Linear Attention Activations (KATA), com feature maps derivados de um cone homogêneo autodual. Para conferir os detalhes e verificar as afirmações, consulte o artigo original e compare a formulação e os resultados que ele relata; o resumo disponível não especifica métricas nem resultados quantitativos.
Fonte original: KATA usa spherical packing para recall em linear attention