Qwen3.6 随 KV cache 修复一起引入的 preserve_thinking 开关是 chat template 的 kwarg,不是 vLLM CLI 标志;借助集群两台 DGX Spark 做 A/B 对照,量化出 prompt/completion token 的差异。
重启即 sealed:homelab Vault 自愈链路的三个坑
Proxmox VM 一重启 Vault 就 sealed,ExternalSecret 跟着失败:postStart 解锁 hook 被 JSON grep 误判、ESO 没有及时重验,恢复脚本自己还有假阴性,最后改成按 exit code 三态判定。
两台 DGX Spark 跑 Qwen3.6-35B-A3B:直连 vLLM vs 经过 Gateway 的吞吐对比
实测两台 DGX Spark 上 Qwen3.6-35B-A3B-FP8 的 vLLM 吞吐:单机单流 ~50 tok/s,双机经 FastAPI Gateway 并发 N=16 聚合可达 ~485 tok/s。
Bifrost 负载均衡 DGX Spark:从 TP=2 跨节点到双机独立部署
将两台 DGX Spark 从不稳定的 vLLM TP=2 跨节点部署迁移到单节点独立运行 + Bifrost 负载均衡网关的完整实践和 benchmark 结果。
工程化引入 Agentic Workflow:一些关于质量与协作转型的观察
结合截至 2026 年 4 月能看到的公开案例与开源生态,整理软件团队从「贴 Prompt」逐步过渡到 Agentic 工作流时,质量保障与团队协作可能发生的变化。
Nemotron EP2 vs TP2:两台 DGX Spark 的实际对比
在两台 DGX Spark 上对比 vLLM EP2 和 TP2 跑 NVIDIA Nemotron 3 Super 120B A12B NVFP4 的结果,并分析 EP2 失稳的可能原因。
微服务契约共享的 Tradeoff:从 Monorepo 到 Polyrepo,该共享到哪一步
BFF 与微服务之间到底该共享到哪一步?Shop Platform 的 monorepo 实践之外,共享 contracts、共享 client 和契约测试在 polyrepo 下各有 tradeoff,我目前更倾向其中一种组合。
Java 21→25 与 Spring Boot 3.5→4.0:为什么升级,怎么升级
Java 21→25 和 Spring Boot 3.5→4.0 值不值得升,先看版本维护周期与语言、框架层的变化;真上手时,手动迁移和 OpenRewrite 自动化两条路径的取舍也不一样。
ArchUnit 作为 Code Agent 时代的 Harness:微服务、Monorepo 与普通 Repo 的落地方式
在 code agent 普及的背景下,我在 Shop Platform 用 ArchUnit 作为可执行的 harness,它在微服务、monorepo 和普通 repo 里的落地方式各不相同。
vLLM TP=2 跨节点部署实践:两台 DGX Spark 跑 Qwen3.5-35B-A3B
两台 DGX Spark 以 vLLM TP=2 跨节点跑 Qwen3.5-35B-A3B,部署过程、benchmark 数据和与单机的对照都在这一篇。