技术分享¶
传习社成员在推理服务、基础设施与工程实践上的一手记录。与手册类文档不同,这里的文章保留完整的实验过程、失败路径和尚未验证的边界。
-
8 卡 Ascend 910B 跑 DeepSeek-V4-Flash
从 820 tok/s 到 300K 长上下文:一次 Atlas 800 A2 单机推理服务的完整调优记录。TP8 与 DP2×TP4 怎么选、DSA-CP 为什么又快又危险、DSpark 接受率为什么会从 45% 掉到 16%。
- 拓扑与并发容量
- Hybrid KV 与 HBM 预算
- Benchmark 可信度
- 线上 failure mode
投稿约定¶
- 文章放在
docs/blog/目录,文件名使用英文短横线命名; - 开头使用 YAML front matter 标注
description、author、date和tags; - 正文首个标题为文章标题,紧跟一行署名小字呈现作者与日期: