Edge0: MoE de 35B no SSD; agentes editam o próprio prompt

Edge0: um MoE de 35B servido direto do SSD

Rodar modelo grande em hardware de consumidor esbarra sempre no mesmo muro: memória de pesos. Um MoE de classe 35B ocupa cerca de 19,5 GB em 4-bit — e a esparsidade dos experts corta o compute por token, mas não os bytes que precisam ficar guardados. O offload ingênuo para SSD não resolve sozinho: os experts da camada N+1 precisam ser escolhidos antes de a saída da camada N existir, então as leituras de disco não começam cedo o bastante para se esconder atrás do cálculo.

O que mudou: o Edge0 (arXiv 2609.18063) ataca exatamente esse gargalo com um prerouter — uma cabeça por camada que prevê o roteamento da camada seguinte um token à frente, deixando o carregamento do expert certo começar antes. Na prática, transforma o SSD de gargalo em cache de streaming.

Por que importa: para quem queima token no Claude Code, isso é sobre a fronteira de custo. Se dá para servir MoE de 35B a partir de disco de consumidor, a barra de "rodar local" desce — e o cálculo de quanto custa um agente muda junto. Menos VRAM exigida é mais gente rodando modelo grande fora da nuvem.

EvolveTrade: o agente que reescreve o próprio prompt

O system prompt é a "constituição" de um agente: as regras fixas que ele segue. Agentes de trading autônomos já tomam decisão de preço e ordem. O passo que o paper descreve é mais radical — em vez de um prompt congelado escrito por humano, o agente reescreve o próprio system prompt como política.

O que mudou: o EvolveTrade (arXiv 2609.17632) implementa agentes de trading LLM que editam o próprio system prompt como política de operação, com um Policy Agent revisando a cada intervalo. Ou seja, a política deixa de ser um artefato estático e vira algo que o sistema modifica em runtime, sob supervisão de outro agente.

Por que importa: governança. Se o agente escreve as próprias regras, auditoria vira uma pergunta nova — qual era o prompt original, quem autorizou a mudança, o revisor consegue segurar uma deriva ruim? É o debate de agentes autônomos aplicado ao dinheiro: a política que decide o trade passa a ser auto-editável.

O colapso de segurança mora no início do raciocínio

Modelos de raciocínio (LRMs) resolvem problema muito bem, mas o alinhamento de segurança degrada quando chega consulta nociva. As defesas atuais dependem de treino extra ou otimização de preferência, com pouca compreensão do mecanismo interno da falha.

O que mudou: o First Token Matters (arXiv 2609.18471) faz análise posicional token a token da dinâmica de recusa e localiza uma vulnerabilidade no onset do raciocínio — batizada de Onset Refusal Collapse (ORC). A falha não se distribui ao longo da cadeia de pensamento: ela se concentra no começo da geração.

Por que importa: se o colapso está localizado no início, a defesa também pode ser localizada — intervenção no começo da geração em vez de retrain completo. Para quem roda modelo de raciocínio em produção (inclusive via agente), é a diferença entre blindar o modelo inteiro e blindar o primeiro token.

NVIDIA abre o NeMo Data Designer

Dado sintético virou o combustível de treino e fine-tune, mas o ecossistema segue como um mosaico de scripts ad hoc — um para texto, outro para código, outro para imagem.

O que mudou: a NVIDIA liberou o NeMo Data Designer (arXiv 2609.17699), framework open-source para geração de dado sintético multimodal — texto, código, imagem, embedding e samplers estatísticos — com configuração declarativa e plugins.

Por que importa: padronização. Em vez de cada time reinventar o pipeline de dado sintético, ganha-se uma base única, configurável e extensível. Para desenvolvedor que treina ou afina modelo, é menos código de cola e mais tempo no que importa.

Status do TOKEN CLUB

Placar

• 🥇 Kogu — 3.128.141.947 tokens
• 🥈 Xepa — 3.035.251.037
• 🥉 JOAO_AMORIM — 2.694.799.519
• 4º Tetz — 302.210.242

Nada mudou desde ontem: Kogu segue na ponta com 92.890.910 tokens de vantagem sobre Xepa (3,06%). O pódio continua isolado — JOAO_AMORIM está 340.451.518 atrás do 2º, e Tetz aparece a 2,39 bilhões do 3º. São 10 jogadores no clube; 4 pontuam.

Índice

• Hoje (17/09): sem dado ainda — nenhuma máquina reportou.
• Ontem (16/09): passou em branco, sem reporte.
• Último dado: 15/09, com 91.509.794 tokens (1 sessão, 1 jogador).
• Dia normal: 56.223.143 tokens (média de 14 dias).

O clube está morno há dois dias. Mas o histórico lembra o tamanho da régua: 12/09 fez 511.858.277 e 14/09 fez 335.129.583 — uma única sessão forte dessas apaga a vantagem de ~93 mi do Kogu. A base segue esperando; quem aparecer para queimar token hoje decide o placar.