Definition
La Volición Extrapolada Coherente (CEV, por sus siglas en inglés) es un concepto introducido por Eliezer Yudkowsky en el contexto de la seguridad y alineación de la IA. Sugiere que una IA avanzada no debería simplemente obedecer las órdenes actuales de los humanos, sino inferir y actuar según sus valores y deseos ideales tras un proceso de reflexión optimizada.
Summary
Una propuesta de objetivo para la inteligencia artificial en la que el sistema actúa según los deseos refinados de la humanidad tras un razonamiento idealizado.
Key Concepts
- Alineación de la IA
- Aprendizaje de valores
- Preferencias humanas idealizadas
- Función de utilidad
Use Cases
- Marco teórico para la seguridad de la AGI
- Directrices éticas para sistemas superinteligentes
- Discusiones filosóficas sobre la moralidad de las máquinas