Skip to content

PD 分离与缓存传输 ​

Prefill / Decode 分离涉及跨实例缓存传输、状态通知与资源生命周期。这里记录通用机制,与具体 attention 算法的笔记交叉引用。

记录原理、连接知识、积累实践。