训练与推理
贾志浩
Zhihao Jia
FlexFlow · 并行与推理系统
贾志浩是计算机系统与机器学习研究者，代表工作包括 FlexFlow。他在斯坦福大学获得博士学位，研究重点是如何把模型计算分配到多台设备，并减少执行过程中的时间和资源开销。
FlexFlow 不只在数据并行和模型并行之间二选一，而是在样本、操作、属性和参数等维度组合并行策略，再根据目标设备寻找较好的执行方案。同一个网络在不同机器配置下，适合的划分方式可能不同。
其后续团队工作还包括面向语言模型服务的推测式推理，以及自动寻找高效 GPU 计算实现的工具。这些系统工作的共同点，是把开发者原本需要手工尝试的计算安排交给搜索和编译过程，降低高性能实现的门槛。