Bookmarks atualizados diariamente: notícias, fatos e descobertas relevantes.
Publicações 1216
Engenharia ·
Publicado em 29 de setembro de 2026, o resumo descreve um estudo sobre transferir conhecimento de Transformers pré-treinados para modelos Mamba e destaca vantagens de memória e vazão dos SSMs.
Engenharia ·
Publicado em 29 de setembro de 2026, o registro descreve KITE, um paradigma de scaling que combina scaling com upcycling e expande componentes do decoder que reutilizam um KV cache gerado por um prefiller menor.
Engenharia ·
Contexto longo também prolonga a exposição. Separe o que um agente precisa lembrar da identidade de quem aparece na conversa.
Engenharia ·
Publicado em 29 de setembro de 2026, o MiMo RL Environment Explorer é apresentado como um espaço interativo para inspecionar ambientes de aprendizado por reforço do MiMo-V2.6 e executar rollouts.
Engenharia ·
Publicação de 29 de setembro de 2026 descreve um modelo 7B que atualizou continuamente seus pesos com dados de mercados de previsão e passou por backtests ao longo de 390 dias. Segundo o trabalho, ele superou vários modelos maiores no mesmo ambiente de teste.
Engenharia ·
A abordagem destila modelos de linear attention em contextos longos e, segundo o relato, recupera o retrieval de full attention e alcança 83–93% do desempenho em raciocínio matemático com 3 bilhões de tokens.
Engenharia ·
Artigo publicado em 29 de setembro de 2026 testa destilação on-policy com uma única query em matemática, código, seguimento de instruções e uso agentic de ferramentas.
Engenharia ·
Publicado em 29 de setembro de 2026, o PTXBench avalia kernels de multiplicação de matrizes e attention gerados por modelos em PTX específico para H100 e B200.
Engenharia ·
Publicado em 29 de setembro de 2026, o registro descreve o RESA, uma proposta de residual estimation para recuperar contexto ignorado quando a sparse attention seleciona apenas parte do KV cache. O post afirma que a técnica não acrescenta custo computacional.
Engenharia ·
Anunciado em 29 de setembro de 2026, o TIRx Harness é um harness de compilador aberto para agentes explorarem, depurarem e otimizarem kernels GPU, com análise de compilador, catálogo, especificações de hardware e avaliação remota.
Engenharia ·
Publicado em 29 de setembro de 2026, o registro descreve o uso da macro `mlir!` em Vx para converter MLIR diretamente em instruções de contagem de zeros à esquerda, sem rotinas manuais específicas para cada hardware.
Engenharia ·
Um ambiente isolado controla o que o agente pode fazer. A privacidade exige controlar também o conteúdo que ele envia à IA.
Engenharia ·
Publicado em 28 de setembro de 2026, o texto relata que agentes de design de kernels geraram e otimizaram implementações de Kimi Delta Attention, com desempenho de até 2,96× o do FlashKDA em B300 e um décimo do erro de estado.
Engenharia ·
Publicado em 28 de setembro de 2026, o artigo descreve um método hierárquico de seleção de blocos para atenção esparsa em contextos longos, reduzindo o custo de O(N²) para O(N log N).
Engenharia ·
Transformar voz em texto muda o formato, não a sensibilidade. Avalie cada etapa antes de incorporar áudio ao seu processo.
Engenharia ·
Publicado em 28 de setembro de 2026, o conjunto apresenta 200 ambientes para estudar aprendizado por reforço em tarefas desafiadoras, abertas e de longo horizonte.
Engenharia ·
Anúncio de 28 de setembro de 2026 apresenta código aberto para pré-treinamento, atenção, conversão de checkpoints e serving de modelos de linguagem.
Engenharia ·
Rodar um modelo perto dos dados pode mudar a arquitetura. Não dispensa tratamento de entradas, controle de acesso ou avaliação real.
Engenharia ·
Publicado em 28 de setembro de 2026, o relato descreve uma técnica que ordena representações neurais ou mudanças de pesos de fine-tuning pela influência sobre o comportamento preservado sob intervenções suaves.
Engenharia ·
Publicado em 28 de setembro de 2026, o texto apresenta o modelo Vx, que descreve capacidade, conexões e visibilidade da memória para verificar programas. O post relata dois erros de capacidade encontrados em um laptop sem GPU.
