Yizhou's Notes

Notes on AI infrastructure, inference systems, and engineering trade-offs.

从 vLLM Ascend 的图模式聊开去:跃出水面,高维视角下的回顾

zh-cn 把视角再抬高一层,从演进脉络与生态取舍回顾昇腾图模式这一路怎么走来。

May 22, 2026

3419 words

17 min read

vLLM

从 vLLM Ascend 的图模式聊开去:进入深水区,回看那些“不得已”

zh-cn 跳出补丁视角,回看 Host 输入、硬件约束与这些特殊设计背后的现实原因。

May 15, 2026

3514 words

18 min read

vLLM

从 vLLM Ascend 的图模式聊开去:理解全局后,再看设计方案

zh-cn 回到具体实现,集中看图模式里的动态性、分桶策略和不同设计取舍。

Apr 24, 2026

5729 words

29 min read

vLLM

从 vLLM Ascend 的图模式聊开去:扩大视野,来聊聊编译

zh-cn 把图模式与 torch.compile 拆开来看,集中聊编译链路、切图和融合优化。

Apr 17, 2026

3028 words

15 min read

vLLM

从 vLLM Ascend 的图模式聊开去:有限视野下的初窥门径

zh-cn 从官方图模式文档出发,先看 Ascend 在图模式体验背后补了哪些工程差异。

Apr 10, 2026

3345 words

17 min read

vLLM

Enter keywords to start searching