Superintelligence

Superintelligence: Caminos, peligros y estrategias de Nick Bostrom, publicada en 2014, es una obra fundamental en el campo del Riesgo existencial de la IA. Bostrom, filósofo en Oxford, sostiene que, una vez que la inteligencia artificial alcance un nivel humano, nos superará rápidamente, convirtiéndose en una “Superintelligence”. Este libro ofrece un Marco de trabajo basado en la teoría de la decisión para el “Control Problem”: el desafío de asegurar que un sistema significativamente más capaz que nosotros permanezca bajo nuestra influencia.

La metodología identifica varios Escenarios de despegue (lento vs. rápido) y el concepto de “Ventaja decisiva estratégica”. Bostrom explica la importancia de Oracles, Genies y Sovereigns como distintos tipos de agencia de la IA. Presenta la Tesis de la ortogonalidad: la idea de que una IA puede tener cualquier nivel de inteligencia combinado con cualquier conjunto de objetivos, y ofrece técnicas para la “Value Loading”. El enfoque está en pasar de las “Suposiciones optimistas” hacia una Mitigación rigurosa del riesgo para el evento más importante de la historia humana.

Es lectura obligatoria para investigadores en seguridad de la IA, asesores de seguridad nacional y directivos de empresas tecnológicas. Los lectores obtienen una profundidad inigualable para comprender la Fragilidad sistémica. Entre las aplicaciones prácticas se incluye el uso de “Incentive-Compatible Safety Measures” e implementar protocolos de Coordinación global para evitar una peligrosa carrera armamentista en el desarrollo de IA. Al internalizar la lógica de Bostrom, los líderes pueden dimensionar la magnitud del cambio estratégico necesario para guiar a una especie a través de la transición hacia una era superinteligente.