Radar ·
Colibri transmite experts MoE do disco em C puro
O projeto Colibri afirma executar sete famílias de modelos MoE abertos, de 744 bilhões a 2,8 trilhões de parâmetros, transmitindo experts do disco em hardware do usuário.
Segundo a publicação, o Colibri é um projeto escrito em C puro que executa sete famílias de modelos MoE abertos, com tamanhos entre 744 bilhões e 2,8 trilhões de parâmetros. Sua abordagem transmite experts do disco, e o post afirma que o software roda no hardware do próprio usuário.
O projeto apresenta uma alternativa técnica para avaliar a execução de modelos MoE muito grandes, mas os números e o funcionamento descritos são afirmações da publicação, não uma validação independente. Se usar ferramentas de IA para estudar ou adaptar essa abordagem, evite inserir dados pessoais, segredos comerciais ou credenciais; aplique as regras de acesso e retenção da sua organização.
Fonte original: Colibri transmite experts de modelos MoE do disco em C puro