Parte 6: El Mundo libre debe prevalecer
Siguiendo esta serie de post basados en el articulo original de Leopold Aschenbrenner https://situational-awareness.ai/ y en su parte “IIId. El Mundo Libre Debe Prevalecer”, el comenta que la superinteligencia podría tener un impacto tan profundo en la política global y la seguridad como el de las armas nucleares.
Este artículo es un análisis detallado de las preocupaciones presentadas en el texto original, donde se argumenta que la supremacía en inteligencia artificial (IA) no solo puede determinar el futuro económico, sino también el militar y geopolítico de las naciones. A continuación, reviso los puntos clave del informe y ofrezco algunas reflexiones adicionales.
Superinteligencia: Un Arma Decisiva
El informe comienza subrayando que la superinteligencia será la “tecnología y el arma más poderosa” jamás desarrollada por el ser humano.
La razón de tal afirmación radica en el potencial que tiene para transformar la guerra y la economía a una escala global. La ventaja militar que ofrece la superinteligencia podría superar cualquier disuasivo tradicional, como las armas nucleares. De hecho, el texto sugiere que solo bastaría un pequeño adelanto en este campo para cambiar completamente el equilibrio de poder entre las naciones. Un par de años de ventaja en superinteligencia podrían ofrecer un poder tan aplastante que podría comparar con la superioridad tecnológica que Estados Unidos tuvo en la Guerra del Golfo, donde una ventaja de 20-30 años en tecnología permitió una victoria casi sin bajas.
“La superinteligencia será la tecnología y el arma más poderosa que la humanidad haya desarrollado jamás.”
Lo más preocupante de este panorama es que la superinteligencia no solo aceleraría el desarrollo de armas de destrucción masiva más potentes, sino que también podría facilitar un crecimiento económico exponencial, dando una ventaja de productividad a las naciones que lideren la carrera. Este desarrollo masivo de tecnologías podría incluir avances en hackeo superhumano, armas robóticas y nuevas formas de control económico a través de la automatización masiva de la mano de obra.
El Riesgo de Potencias Autoritarias: China en la Carrera
Uno de los temas más preocupantes que aborda el informe es el crecimiento de las potencias autoritarias, como China, en la carrera por la superinteligencia. Aunque muchos en Occidente aún subestiman a China en este ámbito, el informe advierte sobre sus capacidades de movilización rápida para construir la infraestructura tecnológica necesaria para desarrollar superinteligencia. A pesar de las restricciones de chips y tecnología avanzada que enfrenta, China podría superar estos obstáculos mediante la fabricación de chips más pequeños (7nm) y el robo de algoritmos y diseños clave de Occidente.
“Si y cuando el Partido Comunista Chino se movilice en la carrera hacia la IA general, la imagen podría empezar a ser muy diferente.”
Esta capacidad para replicar y robar avances tecnológicos, en lugar de desarrollarlos desde cero, podría permitirle a China alcanzar rápidamente la paridad o incluso la superioridad en la carrera por la superinteligencia.
El Poder de la Superinteligencia en Regímenes Autoritarios
La superinteligencia no solo es una cuestión de ventaja militar o económica; también representa un desafío a la libertad y democracia en el mundo. En manos de un régimen autoritario, la superinteligencia podría convertirse en una herramienta de control total. Los dictadores, utilizando capacidades avanzadas de IA, tendrían el poder de eliminar cualquier oposición interna, desde movimientos de resistencia hasta disidencia política. Además, las tecnologías de vigilancia y control, habilitadas por la IA, podrían hacer imposible cualquier forma de rebelión o protesta.
“La superinteligencia dará a aquellos que la manejen el poder de aplastar la oposición, la disidencia y fijar su gran plan para la humanidad.”
Este uso de la superinteligencia como un medio de consolidación de poder autoritario es una de las mayores preocupaciones del informe. Los valores democráticos de corrección de errores y adaptabilidad, que permiten a las sociedades evolucionar y mejorar, serían eliminados bajo un régimen que depende de la estabilidad absoluta proporcionada por la IA.
La Necesidad de Liderazgo Estadounidense
El informe subraya la importancia de que las democracias, lideradas por Estados Unidos, mantengan una ventaja significativa en la carrera por la superinteligencia. Sin un liderazgo claro, las democracias corren el riesgo de perder la capacidad de controlar y regular esta tecnología de manera adecuada. El texto señala que una ventaja “saludable” en superinteligencia es crucial para implementar medidas de seguridad globales, evitar la proliferación de nuevas armas y permitir una cooperación internacional que frene el descontrol tecnológico.
“La principal —y quizás la única— esperanza que tenemos es que una alianza de democracias tenga una ventaja saludable sobre las potencias adversarias.”
Además, el liderazgo estadounidense permitiría crear un régimen de no proliferación, lo que garantizaría que la superinteligencia no cayera en manos de actores malintencionados, como terroristas o dictadores. La ventaja en superinteligencia también otorgaría margen para tomar decisiones críticas sin la presión de una carrera desenfrenada.
El Riesgo de un Conflicto Global
El informe también plantea un escenario alarmante de posible guerra mundial. La convergencia de las líneas de tiempo del desarrollo de la AGI y la preparación militar de China para invadir Taiwán podría llevar a una situación de conflicto global. Este escenario de guerra mundial podría verse amplificado por la competencia en la carrera de la AGI, creando una presión global para tomar decisiones rápidas y arriesgadas, que podrían escalar a una guerra total.
“Ya hay una inquietante convergencia entre los plazos de la AGI (~2027) y los plazos de invasión de Taiwán.”
Conclusión: Priorizar la Seguridad Global
El informe nos recuerda la urgencia de que los Estados Unidos y sus aliados tomen medidas decididas para liderar la carrera por la superinteligencia. Sin una ventaja clara, las democracias podrían verse amenazadas por el avance de regímenes autoritarios que utilizarían la IA como un medio de control. La creación de un régimen de seguridad y no proliferación es esencial para garantizar que esta poderosa tecnología se utilice de manera ética y para el beneficio de toda la humanidad.
Para evitar un futuro distópico, es vital que los gobiernos prioricen la seguridad y la cooperación internacional en el campo de la inteligencia artificial. Solo mediante una estrategia de liderazgo conjunto y una vigilancia constante, las democracias podrán asegurar un futuro libre y seguro para las generaciones venideras.