大语言模型推理与训练协同演进：探索高效推理技术的新篇章

Oct 25, 2024·
Shuai Xie
Shuai Xie
· 1 min read
Abstract
LLM 推理加速技术概览; 训练推理协同演进的推理优化方法; 推测解码与 Medusa 技术
Date
Oct 25, 2024 4:55 PM — 5:40 PM
Event
Location

深圳机场凯悦酒店

广东省深圳市宝安区宝安国际机场,

Slides already added.
Shuai Xie
Authors
Shuai Xie
LLM Inference Engineer