Engenharia ·
Radar: a infraestrutura de compiladores LLVM
Artigo de 6 de julho de 2026 examina inovações, impacto e trabalho em andamento ligados à infraestrutura de compiladores LLVM, com contexto para engenheiros da área.
Radar
Bookmarks atualizados diariamente: notícias, fatos e descobertas relevantes.
Publicações 1219
Engenharia ·
PACE prevê desempenho de agentes com poucas tarefas
Publicado em 6 de julho de 2026, o post apresenta o PACE, método que usa regressão sobre um pequeno conjunto de tarefas não agentivas para estimar o desempenho completo de agentes.
Engenharia ·
ReContext explora evidências em contextos longos
Publicado em 6 de julho de 2026, o artigo apresenta o ReContext, um método de inferência sem treinamento para reapresentar evidências relevantes antes da geração. O trabalho relata resultados em oito conjuntos de dados de 128K e três backbones.
Engenharia ·
Estudo avalia retrieval in-context em escala de um milhão de tokens
Um estudo examina modelos de linguagem como retrievers in-context em corpora de um milhão de tokens e relata que o BlockSearch generaliza até dez vezes além do comprimento usado no treinamento.
Engenharia ·
Radar: arquitetura de armazenamento da Meta
Publicação de 5 de julho de 2026 descreve uma arquitetura de armazenamento e técnicas voltadas a desempenho, como localidade de dados, unificação de caches e pre-fetching.
Engenharia ·
EfficientRollout busca acelerar rollouts de RL
Paper descreve decodificação especulativa autoespeculativa e adaptada ao sistema para rollouts de RL em LLMs. O resumo informa ganhos de até 19,6% na geração; outro número aparece truncado.
Engenharia ·
HASTE organiza skills para agentes de engenharia de ML
Publicado em 5 de julho de 2026, o registro descreve o HASTE, um sistema multiagente hierárquico. Em uma ablação com 159 skills e oito competições, o carregamento em níveis alcançou 100% de medalhas, contra 62,5% no carregamento plano.
Engenharia ·
HOLA adiciona cache de 64 tokens à atenção linear
Uma postagem descreve uma métrica de surpresa de tokens sem parâmetros e um cache de 64 tokens para reduzir o esquecimento catastrófico em atenção linear. Ela afirma superar baselines de atenção completa.
Engenharia ·
Taper cossenoidal melhora perplexidade sem ampliar orçamento
Paper investiga a distribuição de parâmetros entre camadas e relata menor perplexidade com um taper cossenoidal em várias arquiteturas e escalas, sem aumento de parâmetros ou FLOPs.
Engenharia ·
Pruning ou treino do zero para LLMs pequenos
Paper compara seis métodos de pruning do Llama-3.1-8B com treino do zero em dois cenários de orçamento de tokens. A vantagem depende de como o orçamento é contabilizado e da granularidade do pruning.
Engenharia ·
Ramificações locais para escalar LLMs na inferência
Publicado em 5 de julho de 2026, o material apresenta uma abordagem de ramificações locais para gerar previews de próximos tokens e selecionar um caminho antes de continuar a geração.
Engenharia ·
RL pós-treinamento: ajustar uma camada
Um post sobre um paper relata que reforçar camadas intermediárias de alta contribuição pode igualar ou superar o RL com todos os parâmetros, alterando menos parâmetros.
Engenharia ·
RubricEM usa rubrics para orientar agentes de pesquisa
Publicado em 5 de julho de 2026, o resumo descreve um método que treina agentes para criar rubrics e usá-los no planejamento, na busca, na revisão e na resposta.
Engenharia ·
Cornell oferece workshop sobre arquitetura de GPUs
O Cornell Virtual Workshop disponibiliza material de introdução estruturada à arquitetura de GPUs, tema que pode ajudar engenheiros a analisar o desempenho desses processadores.
Engenharia ·
Artigos e palestras sobre otimização de GPUs
Coleção de trabalhos de Vasily Volkov sobre desempenho de GPUs, com temas como desenrolamento de loops, ocultação de latência, álgebra linear densa e memória de GPU.
Engenharia ·
Sinais de recompensa podem divergir da intenção humana
Publicado em 4 de julho de 2026, o post descreve quatro sinais para avaliar coding agents e alerta que eles podem se afastar do que as pessoas pretendem.
Engenharia ·
FlowTracer rastreia informação para orientar o RL
O artigo apresenta um método que usa sinais de atenção para rastrear a propagação de informação no raciocínio de modelos de linguagem e identificar tokens influentes. Esses sinais podem orientar a atribuição de crédito no treinamento por reforço.
Engenharia ·
Entendendo o latency hiding em GPUs
Capítulo de Vasily Volkov, da UC Berkeley, aborda como GPUs ocultam latência e apresenta conceitos de arquitetura e desempenho.
Engenharia ·
Modelo de execução de GPU: capítulo para estudo
Um capítulo de Modern GPU Programming for MLSys apresenta o modelo de execução de GPU como tema de estudo para quem trabalha com programação moderna e sistemas de aprendizado de máquina.
Engenharia ·
TinyRouter testa roteamento entre modelos abertos
Publicado em 4 de julho de 2026, o relato descreve um roteador de cerca de 10 mil parâmetros e resultados iniciais em benchmarks, ressaltando que são necessários mais experimentos.