Human_feedback

Definition

偏好学习侧重于教导模型根据人类的判断而非绝对标签来区分好坏输出。它通常涉及收集成对的响应数据，其中人类标注者指出哪个响应更符合其偏好，从而训练奖励模型以量化这些偏好。 …