对齐与评测

Dawn Song

宋晓冬

机器学习安全 · 隐私

Dawn Song 是计算机安全与机器学习研究者，长期研究系统如何面对攻击，以及怎样保护数据和计算过程。她的工作把机器学习能力与安全、隐私需求放在同一个系统问题中考虑。

在 AI 应用中，风险不仅来自模型给错答案，还可能来自训练数据泄露、对抗输入、模型访问和工具权限。她参与的研究覆盖隐私保护学习、机器学习安全与可信计算等方向，强调系统在攻击者存在时仍需要保持可验证的边界。

她是加州大学伯克利分校的研究学者，也是多项安全研究的组织者。对于大模型开发者，她的研究价值在于把“模型表现良好”与“部署系统可信”区分开来；前者需要能力评测，后者还依赖威胁模型、访问控制和安全验证。