训练与推理

Jeff Dean

杰夫·迪恩

分布式训练 · TensorFlow

Jeff Dean 是大规模计算与机器学习系统研究者。他与合作者建设的分布式基础设施，以及后来的深度学习训练系统，连接了算法研究与能够实际运行的大型计算平台。

早期代表工作包括 MapReduce、Bigtable 等系统。进入机器学习领域后，他参与 DistBelief 和 TensorFlow 的建设，使神经网络可以利用更大规模的计算资源训练。TensorFlow 于 2015 年开源，成为研究和应用开发的重要工具之一。

他也是稀疏 MoE 等模型研究的共同作者。这些工作体现了模型与系统之间的相互影响：网络结构决定通信和计算需求，硬件与分布式实现又限制能够训练什么规模的模型。