Radar ·
KohakuFA mira problemas de precisão no backward
Publicação afirma que cuDNN, FA4 e FlexAttention têm problemas de precisão nos backward passes e apresenta o KohakuFA como kernel alternativo, com repositório público no GitHub para inspeção.
Radar, 3 de outubro de 2026. A publicação afirma que os backward passes do cuDNN, do FA4 e do FlexAttention apresentam problemas de precisão, e apresenta o KohakuFA como um kernel alternativo. O texto vincula o repositório do projeto no GitHub. O texto-fonte não traz números de benchmark, metodologia detalhada nem resultados de comparação, portanto as alegações de precisão devem ser tratadas como afirmações do autor até serem verificadas.
Para consultar e verificar, abra o repositório original pelo link indicado na publicação, leia o código do kernel, os testes e as instruções de reprodução, e compare os resultados numéricos do backward pass com uma referência conhecida na sua própria configuração. Engenheiros que avaliam a estabilidade do treinamento podem usar essa checagem para decidir se o tema merece atenção. Como a privacidade é secundária neste item, o cuidado principal é com os dados da organização: se usar IA para estudar código ou logs de treinamento, remova nomes, CPFs, e-mails e outros identificadores antes de colar o conteúdo.
Fonte original: KohakuFA mira problemas de precisão no backward