基础与架构

Alec Radford

亚历克·拉德福德

GPT · CLIP · Whisper

Alec Radford 是生成式模型与多模态学习研究者，参与了 GPT、CLIP 和 Whisper 等工作。他的研究跨越语言、图像和语音，关注模型怎样从大规模数据中学习可迁移的能力。

GPT 路线将大规模语言预训练与下游任务联系起来。2021 年的 CLIP 则利用图像与自然语言描述的配对数据，让视觉模型学习与文本相联系的表示，从而可以用文字描述进行零样本分类。

Whisper 研究使用大规模弱监督语音数据训练通用语音识别模型。这些项目的共同线索是扩大训练数据及任务覆盖，减少对某个单独数据集的专门适配。但不同模型的能力和限制仍由具体训练设置决定，不能把通用性理解为任何场景都可靠。