全局综述 & 技术地图
本节内容将基于 test.txt 进行重构,敬请期待
核心内容预告
主要论文
-
面向高效的生成式 LLM 服务: 从算法到系统的综述
- 作者机构: 普渡大学 & 卡内基梅隆大学
- 期刊: ACM Computing Surveys
-
驯服巨兽: 高效 LLM 推理服务综述
- 2025 年最新综述
- 涵盖 DeepSeek-V3/R1 等最新模型
你将学到
- LLM 推理的三层技术栈: 算法、系统、硬件
- 主要优化方向: 推测解码、模型压缩、调度优化
- 如何评估推理系统性能
阅读建议
- 快速浏览 (30min): 看摘要和技术分类
- 深度阅读 (2h): 精读并做笔记
- 实践验证 (3h): 部署并测试推理系统
状态: 🚧 内容重构中,预计完成时间: TBD