Radar ·
Functional Attention propõe atenção de custo linear
Publicado em 6 de julho de 2026, o resumo do paper descreve bases aprendidas e uma matriz compacta para representar a atenção, com custo linear no número de pontos e resultados em três áreas de avaliação.
Publicado em 6 de julho de 2026, o resumo apresenta Functional Attention, que representa os campos de query e key/value com bases aprendidas e os relaciona por uma matriz compacta, em vez de calcular scores entre todos os pares. O paper relata custo linear no número de pontos e resultados em tarefas de equações diferenciais parciais (PDE), segmentação de nuvens de pontos e — o texto disponível termina antes de completar a lista de tarefas.
A proposta pode interessar a engenheiros que trabalham com sequências longas ou operator learning como alternativa à atenção quadrática entre pares. Para avaliar o resultado, consulte o paper original e confira a formulação, as condições dos experimentos e as comparações; o resumo disponível não informa métricas nem detalhes suficientes para julgar o desempenho. Se usar IA para estudar ou aplicar o material, evite enviar dados pessoais ou documentos confidenciais, ou aplique a política de proteção da organização.
Fonte original: Functional Attention usa bases aprendidas para reduzir o custo da atenção