对齐与评测

Timnit Gebru

蒂姆尼特·格布鲁

数据文档 · 算法偏差

Timnit Gebru 是 AI 研究者，关注数据集、算法偏差和研究问责，也是 Distributed AI Research 的创办者。她的工作强调技术系统背后的数据与社会条件。

Datasheets for Datasets 建议像记录硬件规格一样，为数据集说明收集过程、组成、预期用途和限制。她与 Joy Buolamwini 的 Gender Shades 研究，则展示了部分商业性别分类系统对不同人群表现不均衡的问题。

Gender Shades 把不同群体的错误率分别列出来，使“总体准确率很高”背后的差异变得可见；Datasheets 则要求说明数据从哪里来、怎样收集以及适合什么用途。两项工作把数据记录与分组评测带入了模型研发流程。