基础与架构
Łukasz Kaiser
卢卡什·凯泽
Transformer · Tensor2Tensor
Łukasz Kaiser 是机器学习研究者,代表工作包括 Transformer 和 Tensor2Tensor。他的研究不仅涉及模型架构,也关注如何让不同任务共享模型与训练工具。
Tensor2Tensor 将数据处理、模型和训练流程放入统一框架,帮助研究者在多个任务之间复用实现。2017 年,他同时参与了 Transformer 论文,用以注意力为核心的架构完成序列转换,推动了并行训练的研究。
在 One Model to Learn Them All 等工作中,他与合作者探索由一个模型处理不同输入和任务的可能性。这些研究体现了对通用表示和工具复用的关注。统一接口并不意味着所有任务都采用相同的数据或评测方式,具体结论仍需要回到相应实验。