#hardware

36 posts

2026 - outubro

7 posts

Melhor LLM Open Source: Strata com Qwen 3.8 Flash Next

O Qwen3.8 Flash-Next servido pelo motor Strata fez 91, Tier A, numa RTX 5090, a 1,5 ponto da B300 e a uns 159 tokens por segundo. Explico como o Strata faz um MoE de 125 bilhões caber num PC usando a VRAM como cache de especialistas e a RAM como estoque, por que isso importa com a memória custando o dobro, e por que não é mágica: a banda de memória da 5090 é sete vezes a do Strix Halo e quase 30 vezes a do PCIe, e mesmo na minha máquina ele ocupa quase toda a RAM e a VRAM. Mostro a instalação, um serviço que carrega e descarrega o modelo sozinho, a configuração do OpenCode, por que eu considero a minha máquina o mínimo pra programação de verdade, e por que, mesmo um pouco menos responsivo que um modelo comercial, ele já está quase bom o suficiente pra substituir a nuvem no dia a dia.

LLM Benchmark v4: open source nível consumidor na RTX5090 ou Strix Halo. E o Strata?

Voltei pro hardware de consumidor depois dos testes em datacenter. O Qwen3.8 Flash-Next fez 91,0, Tier A, numa RTX 5090 com o motor Strata, a 1,5 ponto da B300 e a 159 tokens por segundo. É um modelo diferente do Qwen 3.8 27B que eu tinha chamado de lento: um MoE com 6B ativos por token, servido com os especialistas mais usados na placa. A Strix Halo fez 80,0 com o 27B, mas a 7,7 tokens por segundo. É o primeiro modelo local que fez Tier A no v4 e que vale testar no dia a dia de programação, se você achar uma 5090: a NVIDIA nega o fim da produção, mas admite oferta apertada.

LLM Benchmark v4: meu time cabe em 4x B300/H200?

Depois de ranquear os modelos grandes, a pergunta que sobra: quantos desenvolvedores cabem num pod de 4x B300 ou 4x H200? Medimos concorrência de verdade, com SLO de latência, e a resposta muda tudo: o DeepSeek V4.1 Flash segura 32 usuários confortáveis na B300 e só 8 na H200. Custo por usuário confortável: US$ 1,13/hora na B300 contra US$ 1,80 na H200. Quando a infra própria fecha a conta contra a assinatura de frontier, e quando ela é só vaidade cara.

LLM Benchmark v4: open source que só cabe em 4x B300!!

Aluguei 4x NVIDIA B300 na Runpod e rodei meu benchmark v4 de sabotagem nos modelos abertos que não cabem numa placa só. O DeepSeek V4.1 Flash, com 748B, empatou com os líderes em 92,5, no nível do GLM 5.3 hospedado e do GPT-6 Sol. O GLM 5.3 full ficou pra trás, o Kimi K2 Thinking de 1T decepcionou, e um modelo de 397B despencou de 94 na nuvem pra 27 em casa. A conta: US$ 36 por hora de pod, US$ 864 por dia. Quando faz sentido ter a própria infra, e se um modelo aberto grande já basta pro seu dia a dia de programador.

LLM Benchmark v4: os top LLMs open source numa B300

Aluguei uma NVIDIA B300 de 288 GB na Runpod e rodei meu benchmark v4 de sabotagem em 14 modelos abertos que não cabem em casa. Nenhum serve rápido do jeito que vem: o GLM 5.3 Flash saiu de 10 pra 141 tokens por segundo só de configuração. Dois modelos abertos chegaram a 92,5, nível Sonnet 5, e um fine-tune de 27B fez 88. Um flagship de 397B deixou passar uma backdoor de admin, o DeepSeek V4 Flash fez 86 na nuvem e 44,5 em casa, e o Nemotron trapaceou no teste. A conta: a API em nuvem do mesmo modelo custa um dólar por rodada e o pod custa 218 por dia. Quando vale a pena ter a própria infra, e se um time cabe numa placa só.

Desastre no meu NAS! Como quase perdi 90 TB de dados

Troquei um disco do meu Synology DS1821+ e acordei no dia seguinte com dois discos críticos num array que só aguenta perder um. Post-mortem completo: por que SHR-1 não bastou, o aviso que o DSM nunca mandou, os R$ 185 mil de um QNAP comprado às pressas, e a recuperação: rsync paralelo NAS a NAS, o disco lento que segurava o array, a verificação de 5,9 milhões de arquivos, o susto do thick provisioning e os dois NAS saudáveis em RAID-6.

2026 - agosto

2 posts

2026 - julho

1 post

2026 - abril

2 posts

2026 - março

1 post

2026 - janeiro

2 posts

2025 - setembro

1 post

2025 - maio

1 post

2025 - abril

2 posts

2024 - outubro

1 post

2023 - fevereiro

1 post

2022 - março

1 post

2021 - outubro

1 post

2021 - julho

1 post

2021 - junho

1 post

2021 - maio

1 post

2021 - fevereiro

1 post

2020 - novembro

1 post

2020 - maio

2 posts

2019 - setembro

1 post

2017 - novembro

1 post

2017 - março

1 post

2017 - janeiro

2 posts

2015 - novembro

1 post