基础与架构
Quoc V. Le
黎曰国
Seq2Seq · 表示学习
Quoc V. Le 是机器学习研究者,研究涉及大规模表示学习、序列建模和自动化模型设计。他的工作关注怎样从数据中学习特征,以及怎样减少模型开发对手工结构选择的依赖。
2014 年,他与 Ilya Sutskever、Oriol Vinyals 合作提出 Seq2Seq,用端到端训练连接输入编码与输出生成。同年,他与 Tomas Mikolov 研究段落向量,为句子、段落和文档学习固定长度的表示。
他还与合作者探索神经架构搜索,让算法在候选网络结构中寻找合适方案。序列转换、文本表示和架构搜索面对的是不同问题,但都尝试把一部分人工设计转化为学习过程。判断实际收益时,需要同时考虑训练成本、搜索开销和对新任务的适用性。