Engenharia ·
Qwen 3.5 e Nemotron 3 adotam híbridos distintos
Publicado em 8 de julho de 2026, o post compara duas abordagens arquiteturais híbridas e as relaciona à evolução convergente da atenção linear e dos modelos de espaço de estados.
Radar
Bookmarks atualizados diariamente: notícias, fatos e descobertas relevantes.
Publicações 1219
Engenharia ·
Ridgeline: profiler roofline para inferência de LLMs
O Ridgeline é um pequeno profiler criado com PyTorch para ajudar engenheiros a analisar workloads de inferência de LLMs usando um modelo roofline.
Engenharia ·
SearchEyes treina agentes de busca em mundos simulados
Publicado em 8 de julho de 2026, o resumo apresenta SearchEyes, uma abordagem que usa um grafo de conhecimento tipado como base de um mundo de busca simulado para treinar agentes multimodais.
Engenharia ·
BrowserBC transforma traces de navegação em skills para agentes
A abordagem converte traces de navegação humana em cartões de skills em linguagem natural, que agentes podem recuperar e combinar para navegar em sites desconhecidos.
Engenharia ·
Embeddings orientados à relevância para recuperar candidatos
Um paper descreve embeddings de queries e itens para recuperar candidatos com eficiência quando calcular relevância é caro. A abordagem relatada usa itens ou queries de suporte selecionados.
Engenharia ·
Harness engineering e autoaperfeiçoamento de IA
Publicado em 7 de julho de 2026, o artigo de Lilian Weng examina o autoaperfeiçoamento recursivo e propõe projetar e otimizar o harness do modelo como ponto de partida prático.
Engenharia ·
HiLS aprende a selecionar chunks em sparse attention
Publicado em 7 de julho de 2026, o material apresenta a Hierarchical Landmark Sparse (HiLS) Attention, método que aprende a selecionar chunks de ponta a ponta usando a loss de modelagem de linguagem.
Engenharia ·
JetSpec acelera speculative decoding com árvores paralelas
Post publicado em 7 de julho de 2026 descreve o JetSpec, que usa um único forward pass com causal conditioning para criar draft trees coerentes. O texto relata speedups de até 9,64× no MATH-500 e 4,58× em conversas abertas.
Engenharia ·
Live stream apresenta novos capítulos de livro sobre CUDA
Publicado em 7 de julho de 2026, o anúncio descreve uma transmissão ao vivo sobre novos capítulos de Programming Massively Parallel Processors e uma visão geral do conteúdo.
Engenharia ·
Estudo rastreia dados de treino ligados a circuitos em LLMs
Publicado em 7 de julho de 2026, o trabalho apresenta um método para relacionar amostras de treino a attention heads interpretáveis e relata efeitos de intervenções sobre esses circuitos.
Engenharia ·
Rejection sampling no alinhamento on-policy de LLMs
Publicado em 7 de julho de 2026, o resumo apresenta uma proposta para converter tokens off-policy em tokens tratados como on-policy por rejection sampling e reduzir problemas de variância no alinhamento de LLMs.
Engenharia ·
Destilação com informação privilegiada pode afetar raciocínios longos
Estudo avalia self-distillation com informação privilegiada em modelos de raciocínio e relata degradação em trajetórias longas em cinco modelos testados no AIME.
Engenharia ·
Taxonomia de recomendação com agentes
Survey publicado em 7 de julho de 2026 propõe classificar sistemas de recomendação com agentes baseados em LLM pelo nível de autonomia.
Engenharia ·
Autodata gera dados de treino com loops de agentes
Publicado em 6 de julho de 2026, o resumo apresenta o Autodata, método que usa agentes para criar dados de treinamento e avaliação, selecionando perguntas que distinguem solvers fracos e fortes.
Engenharia ·
AutoMem ensina agentes a cuidar da memória
Post sobre um paper apresenta agentes que escrevem, pesquisam e organizam notas, aprendendo quando a memória é útil. Segundo o texto, o método elevou de 2x a 4x o desempenho de um modelo aberto de 32B em jogos longos.
Engenharia ·
Aritmética de ponto flutuante do zero
Publicado em 6 de julho de 2026, o artigo apresenta a construção de aritmética de ponto flutuante do zero como um projeto de alta dificuldade.
Engenharia ·
Compiladores e design de linguagens: introdução
Um livro de 2021, de Douglas Thain, apresenta compiladores e design de linguagens a engenheiros interessados em construir essas tecnologias.
Engenharia ·
Functional Attention propõe atenção de custo linear
Publicado em 6 de julho de 2026, o resumo do paper descreve bases aprendidas e uma matriz compacta para representar a atenção, com custo linear no número de pontos e resultados em três áreas de avaliação.
Engenharia ·
Guia CUDA C++ da NVIDIA atualizado em junho de 2026
Um registro publicado em 6 de julho de 2026 aponta que o CUDA C++ Programming Guide da NVIDIA foi atualizado em junho de 2026 e o apresenta como referência para engenheiros que trabalham com CUDA C++.
Engenharia ·
HOLA combina estado recorrente e cache KV limitado
Publicado em 6 de julho de 2026, o post apresenta o HOLA, que combina estado recorrente e um pequeno cache KV para memória exata. Segundo o texto, a abordagem reduz a perplexidade em 16,1% e mantém recuperação robusta em 32 mil tokens.