Radar ·
GOAT propõe priors treináveis para attention
Publicado em 16 de setembro de 2026, o artigo apresenta attention como Entropic Optimal Transport e propõe substituir o prior uniforme implícito por um prior contínuo e treinável.
Publicado em 16 de setembro de 2026, o artigo apresenta attention como Entropic Optimal Transport e introduz o GOAT: um método que troca o prior uniforme implícito por um prior contínuo e treinável. Segundo o resumo, a abordagem é compatível com kernels otimizados, como FlashAttention.
A proposta pode interessar a engenheiros que avaliam variantes de attention, mas o resumo não apresenta resultados quantitativos. Consulte o artigo original para verificar método, experimentos e condições de compatibilidade antes de tirar conclusões ou aplicar a técnica. Se usar IA para estudar o material, proteja dados da organização conforme suas políticas.
Fonte original: GOAT introduz priors treináveis para attention