开源与教育

Stella Biderman

斯特拉·比德曼

Pythia · 开放模型研究

Stella Biderman 是语言模型研究者，也是 Pythia 论文的第一作者。她参与 EleutherAI 的开放研究，关注其他人是否能够观察模型训练过程，而不只是拿到训练结束后的权重。

Pythia 提供不同规模的模型，并在相同数据顺序下训练，公开多个训练阶段的检查点。研究者可以比较一个行为是何时出现的、是否随模型规模改变，以及某次训练更新前后发生了什么。

这套资源的目的不仅是追求某个榜单名次，更是控制实验中的变量。固定数据顺序、保留中间状态，有助于研究记忆、偏差和能力变化，使关于语言模型的判断能够建立在可重复的比较之上。