基础与架构

Yoshua Bengio

约书亚·本吉奥

表示学习 · 神经语言模型

Yoshua Bengio 是深度学习与神经语言模型的重要研究者，长期研究怎样让模型从数据中学到有用的表示。他在蒙特利尔开展研究，也是 Mila 研究机构的重要建设者。

2003 年，他与合作者发表神经概率语言模型研究，把词映射为连续向量，并利用这些表示预测后续词语。这种做法让相似词可以共享统计信息，是后来词向量和神经语言建模的重要基础。2014 年，他与 Dzmitry Bahdanau、Kyunghyun Cho 合作研究机器翻译中的注意力机制。

他与 Geoffrey Hinton、Yann LeCun 共同获得 2018 年图灵奖。其公开研究还关注 AI 安全与模型能力的可控性。从他的工作可以看到，语言表示、序列建模与模型行为之间存在连续的研究脉络。