Superintelligence: Paths, Dangers, Strategies

Superintelligence: Paths, Dangers, Strategies, del filósofo de Oxford Nick Bostrom, publicada en 2014, es el texto base sobre los riesgos a largo plazo de la IA avanzada. Bostrom analiza de manera sistemática las rutas por las que la inteligencia artificial podría superar la capacidad humana, las dinámicas estratégicas de esa transición y el problema de la alineación: garantizar que sistemas poderosos persigan objetivos que sean genuinamente compatibles con los valores humanos.

Para líderes de alto nivel, el análisis de Bostrom no es ciencia ficción, sino una rigurosa gestión del riesgo estratégico. Los marcos que introduce —la convergencia instrumental, la tesis de la ortogonalidad, el giro traicionero— se han vuelto vocabulario estándar en los círculos de seguridad de la IA, en el ámbito de las políticas públicas y en las juntas directivas de las principales empresas de IA. Los ejecutivos que integran capacidades de IA en sus organizaciones necesitan comprender estos conceptos para tomar decisiones defendibles a largo plazo y para dialogar con credibilidad con reguladores y partes interesadas.