Definition
Este concepto se refiere al debate y la posible política sobre la restricción o la parada completa de la investigación en Superinteligencia Artificial (ASI). Los defensores argumentan que la ASI plantea riesgos existenciales.
Summary
Una medida regulatoria propuesta o postura ética que aboga por la prohibición del desarrollo de una inteligencia general artificial que supere las capacidades cognitivas humanas.
Key Concepts
- Riesgo existencial
- Seguridad de la IA
- Moratoria regulatoria
- Problema de alineación
Use Cases
- Debates políticos sobre gobernanza de la IA
- Discusiones éticas en la investigación de IA
- Evaluación de riesgos para el desarrollo avanzado de IA