Definition
连贯外推意志（CEV）是由埃利泽·尤德科夫斯基在人工智能安全与对齐背景下提出的概念。它建议先进的人工智能不应仅仅服从当前人类的命令，而应通过理想化的推理过程，外推并实现人类深层的、一致的价值观和愿望。
Summary
一种人工智能目标设定，主张系统应根据经过理想化推理后的人类精炼愿望行事。
Key Concepts
- AI对齐
- 价值学习
- 理想化人类偏好
- 效用函数
Use Cases
- 通用人工智能（AGI）安全的理论框架
- 超级智能系统的伦理准则
- 关于机器道德的哲学讨论
A comprehensive multilingual AI terminology dictionary
连贯外推意志（CEV）是由埃利泽·尤德科夫斯基在人工智能安全与对齐背景下提出的概念。它建议先进的人工智能不应仅仅服从当前人类的命令，而应通过理想化的推理过程，外推并实现人类深层的、一致的价值观和愿望。
一种人工智能目标设定，主张系统应根据经过理想化推理后的人类精炼愿望行事。