Definition
Helpsteer2 是由 NVIDIA 发布的一个精心策划的数据集，包含由大型语言模型生成的响应的成对比较。它侧重于多维度的偏好，如有用性、诚实度等。
Summary
一个专为在人类反馈强化学习（RLHF）中训练奖励模型而设计的高质量人类偏好数据集。
Key Concepts
- RLHF
- 奖励建模
- 人类偏好
- 对齐
Use Cases
- 为LLM对齐训练奖励模型
- 评估模型的有用性和安全性
- 使用偏好数据微调基础模型
A comprehensive multilingual AI terminology dictionary
Helpsteer2 是由 NVIDIA 发布的一个精心策划的数据集，包含由大型语言模型生成的响应的成对比较。它侧重于多维度的偏好，如有用性、诚实度等。
一个专为在人类反馈强化学习（RLHF）中训练奖励模型而设计的高质量人类偏好数据集。