Ai_safety

Definition

奇点研究是一门新兴的学术学科，旨在调查假设的未来时刻（即人工智能超越人类智能）所带来的影响，从而导致不可控的后果。

一门跨学科领域，考察未来技术奇点对社会、伦理和 …

欧文·埃文斯是一位计算机科学家和教育家，目前与人工智能安全中心（Center for AI Safety）有关联，此前曾在 Anthropic 工作。他因在机械可解释性领域的贡献 …

连贯外推意志（CEV）是由埃利泽·尤德科夫斯基在人工智能安全与对齐背景下提出的概念。它建议先进的人工智能不应仅仅服从当前人类的命令，而应通过理想化的推理过程，外推并实现人类深层 …