Engenharia ·
Jamba combina camadas Transformer e Mamba
Publicado em 20 de setembro de 2026, o resumo descreve Jamba, um modelo de linguagem base com arquitetura híbrida Transformer-Mamba e mixture-of-experts.
Radar
Bookmarks atualizados diariamente: notícias, fatos e descobertas relevantes.
Publicações 1216
Engenharia ·
On-Demand Attention seleciona quando usar contexto completo
Publicado em 20 de setembro de 2026, o post descreve uma técnica que usa uma head leve para acionar o contexto completo quando necessário, buscando acelerar a decodificação sem perder tanto desempenho quanto a atenção local.
Engenharia ·
QLoRA relata ajuste de modelo de 65 bilhões em GPU de 48 GB
Publicado em 20 de setembro de 2026, o resumo do artigo relata fine-tuning de um modelo de 65 bilhões de parâmetros em uma única GPU de 48 GB, com quantização de 4 bits e adapters LoRA.
Engenharia ·
RWKV combina treino paralelo e inferência recorrente
Publicado em 20 de setembro de 2026, o resumo do artigo apresenta uma arquitetura que combina treinamento paralelo no estilo Transformer com inferência recorrente no estilo RNN.
Engenharia ·
Speculative decoding pode acelerar a inferência
A técnica combina propostas de um modelo eficiente com verificações paralelas de um modelo maior para reduzir etapas seriais de decoding sem alterar a distribuição de saída.
Engenharia ·
GEPA adapta modelo com prompts e exemplos rotulados
A publicação, datada de 19 de setembro de 2026, descreve uma demonstração que usa GEPA para ajustar um modelo disponível no mercado a critérios específicos de decisão, com mudanças no prompt e exemplos rotulados.
Engenharia ·
CUDA C++: execução, memória e correção na GPU
Um guia conciso sobre conceitos essenciais de programação CUDA: lançamento de kernels, organização de threads, memória, sincronização, inicialização do runtime, erros e validação dos resultados da GPU frente à CPU.
Engenharia ·
Radar: modelos de linguagem que se autoavaliam
Publicado em 19 de setembro de 2026, o paper estuda feedback de um modelo de linguagem com prompting de LLM-as-a-Judge durante o treinamento, em comparação com modelos de recompensa baseados em preferências humanas e mantidos congelados.
Engenharia ·
GuppyLM: modelo de linguagem com 9 milhões de parâmetros
Um post apresenta o GuppyLM, modelo de linguagem com cerca de 9 milhões de parâmetros, e afirma que ele pode ser treinado do zero em cinco minutos. O projeto é descrito como uma experiência em pequena escala para engenheiros.
Engenharia ·
ORPO reúne SFT e otimização de preferências
Publicado em 19 de setembro de 2026, o paper apresenta o ORPO, método que combina alinhamento de preferências e supervised fine-tuning sem um modelo de referência.
Engenharia ·
Classificador open source de páginas fiscais relata 100% de acurácia
Projeto no GitHub descreve classificação de páginas de documentos fiscais e informa resultados em 261 formulários do IRS, com custo estimado de cerca de US$ 0,001 por página.
Engenharia ·
JEPA-Anything explora fatores ortogonais
Framework agnóstico a domínios usa fatoração preditiva ortogonal para decompor alvos latentes em fatores complementares; autores dizem que código, checkpoints e relatório são abertos.
Engenharia ·
Never Give Up direciona RL a problemas difíceis
Nota datada de 18 de setembro de 2026 relata que o aprendizado por reforço (RL) tende a melhorar mais o desempenho de LLMs em problemas fáceis do que nos difíceis. O método Never Give Up usa amostragem adaptativa para direcionar computação aos casos mais difíceis.
Engenharia ·
Novos modelos de OCR e resultado em benchmark
Publicação de 18 de setembro de 2026 apresenta WeVisDoc 2B e 4B e jina-ocr-v1, com licenças distintas, e informa a pontuação do WeVisDoc-4B no OmniDocBench v1.6.
Engenharia ·
Qualcomm publica compilador IDL FastRPC para Hexagon
Em 18 de setembro de 2026, a Qualcomm anunciou a disponibilização do código do compilador IDL FastRPC para Hexagon. Engenheiros podem consultar o código-fonte no repositório QAIC no GitHub.
Engenharia ·
Flow Models como modelos recorrentes para raciocínio
Trabalho descrito em 17 de setembro de 2026 transforma um flow model em modelo recorrente para tarefas como Sudoku, refinando previsões iterativamente sem backpropagation through time.
Engenharia ·
Agora registra memória compartilhada de agentes no Git
Em publicação de 17 de setembro de 2026, Agora descreve um DAG append-only no Git para registrar contribuições de agentes de pesquisa e facilitar a consulta a resultados e verificações.
Engenharia ·
GrainSpeech propõe síntese de fala com menos contexto
Publicado em 17 de setembro de 2026, o projeto GrainSpeech é descrito como capaz de gerar mais detalhes na síntese de fala com menos contexto. A página do projeto aponta para um repositório oficial e um artigo técnico.
Engenharia ·
RULER transforma avaliações de agentes em recompensas GRPO
Publicado em 17 de setembro de 2026, o relato descreve o RULER no OpenPipe ART: um LLM ranqueia trajetórias segundo critérios em inglês simples, e as comparações são convertidas em recompensas para treinamento GRPO.
Engenharia ·
Supersonic TTS: CPU e suporte a 31 idiomas
Publicado em 17 de setembro de 2026: o autor afirma que o Supersonic TTS roda em CPU e oferece suporte a 31 idiomas. Ele planeja usá-lo para gerar dados sintéticos.