大语言模型推理与训练协同演进:探索高效推理技术的新篇章

Apr 12, 2024·
Shuai Xie
Shuai Xie
· 1 min read
Abstract
LLM 推理加速技术概览; 训练推理协同演进的推理优化方法; 推测解码与 Medusa 技术
Date
Apr 12, 2024 4:00 PM — 4:45 PM
Event
Location

北京国测国际会议会展中心

北京市顺义区临空经济核心区汇海南路6号院20号楼,

Slides already added.