训练与推理
Tim Dettmers
蒂姆·德特默斯
bitsandbytes · QLoRA
Tim Dettmers 是高效深度学习研究者，代表工作包括 bitsandbytes、低精度优化器和 QLoRA。他关注怎样让显存与计算资源有限的开发者也能使用较大的模型。
QLoRA 将冻结的量化基础模型与可训练的低秩适配器结合起来，使微调过程不必保存全部高精度模型参数的训练状态。论文还研究了量化数据类型和内存管理方法，以进一步减少资源需求。
bitsandbytes 将一些低精度计算和优化方法整理成可使用的工具。降低精度会改变数值表示，实际训练仍需要检查稳定性、质量与硬件支持。Dettmers 的贡献是把模型压缩研究与可执行的工程工具联系起来。