基础归档
记录原理、数学推导、教程、课程、教材与开发参考。
已下载教材、课程与技术资料 按原分类标签关联到各主题的阅读入口。
AI Infra 面试基础归档：CUDA、数值格式、分布式 Attention、推理成本与 C++。
| 主题 | 内容 |
|---|---|
| 待分类 | 0 篇内容笔记 |
| Attention | 7 篇内容笔记 |
| 推理与 KV Cache | 推理成本与缓存复用 |
| 分布式训练与 MoE | MoE 与序列并行 |
| GPU 编译与性能 | 15 篇内容笔记 |
| 模型架构与推理能力 | 4 篇内容笔记 |
| 计算基础 | 25 篇内容笔记 |
| 教材与技术参考 | 22 篇内容笔记 |
| 量化 | 数值格式、混合精度与 FP8 缩放 |
按主题查找
Attention
- attention-sinks
- [译] 用 60 幅图从零构建 FlashAttention-4
- FlashAttention 笔记
- Flash-Decoding for long-context inference
- Linear Attention
- Multi-head Latent Attention
- Sparse Attention