Yizhou's Notes

记录 AI 基础设施、推理系统与工程权衡

从 vLLM Ascend 的图模式聊开去:跃出水面,高维视角下的回顾

把视角再抬高一层,从演进脉络与生态取舍回顾昇腾图模式这一路怎么走来。

2026 年 5 月 22 日

3419 字

17 分钟

vLLM

从 vLLM Ascend 的图模式聊开去:进入深水区,回看那些“不得已”

跳出补丁视角,回看 Host 输入、硬件约束与这些特殊设计背后的现实原因。

2026 年 5 月 15 日

3514 字

18 分钟

vLLM

从 vLLM Ascend 的图模式聊开去:理解全局后,再看设计方案

回到具体实现,集中看图模式里的动态性、分桶策略和不同设计取舍。

2026 年 4 月 24 日

5729 字

29 分钟

vLLM

从 vLLM Ascend 的图模式聊开去:扩大视野,来聊聊编译

把图模式与 torch.compile 拆开来看,集中聊编译链路、切图和融合优化。

2026 年 4 月 17 日

3028 字

15 分钟

vLLM

从 vLLM Ascend 的图模式聊开去:有限视野下的初窥门径

从官方图模式文档出发,先看 Ascend 在图模式体验背后补了哪些工程差异。

2026 年 4 月 10 日

3345 字

17 分钟

vLLM

输入关键词开始搜索