Parte 7: El Proyecto
En los últimos años, la Inteligencia Artificial General (IAG) ha pasado de ser una idea especulativa a una posibilidad tecnológica real. A medida que esta posibilidad se materializa, crece la percepción de que el desarrollo de la superinteligencia no puede dejarse exclusivamente en manos de startups o empresas privadas. Surge entonces “El Proyecto”, una iniciativa que, según el documento original, es comparable al Proyecto Manhattan en términos de importancia estratégica y de seguridad nacional.
«El Proyecto» y su inevitabilidad
«El Proyecto se refiere a una iniciativa gubernamental, similar al Proyecto Manhattan, pero enfocada en el desarrollo de la Inteligencia Artificial General (IAG) y, eventualmente, la superinteligencia. Se considera inevitable debido a la creciente conciencia de que la IAG y la superinteligencia representan una tecnología de importancia crítica para la seguridad nacional, comparable a las armas nucleares.»
Este argumento resalta la naturaleza ineludible de una intervención estatal a gran escala. La historia demuestra que las tecnologías con potencial transformador y destructivo han sido siempre objeto de regulación y control gubernamental. El paralelismo con el Proyecto Manhattan es particularmente revelador: al igual que la fusión nuclear cambió la geopolítica, la superinteligencia podría redefinir el poder global y la seguridad nacional.
Resumen sobre el texto original:
La carrera hacia la AGI se está intensificando, y el gobierno de los Estados Unidos se involucrará, culminando en un proyecto gubernamental de AGI alrededor de 2027/28.
Se considera «una proposición descabellada» que el gobierno de EE. UU. permita que una startup desarrolle la superinteligencia. Como analogía se plantea la dificultad de imaginar que los EE.UU. hubiesen desarrollado la bomba atómica permitiendo que Uber improvisara.
La superinteligencia, con su capacidad para desarrollar nuevas armas y generar crecimiento económico, será el foco de la competencia internacional. Una ventaja de meses podría ser decisiva en un conflicto militar.
«Como muchas veces antes—Covid, WWII—parecerá como si los Estados Unidos estuvieran dormidos al volante, de repente, el gobierno cambiará de marcha de la manera más extraordinaria».
La Incapacidad de las startups para liderar el desarrollo de la Superinteligencia
«Las startups, si bien son ágiles en la innovación, carecen de la infraestructura, los recursos y el enfoque en la seguridad nacional que se requiere para un proyecto de esta magnitud.»
El modelo de negocio de las startups está impulsado por la velocidad y la optimización de costos, factores que entran en conflicto con la necesidad de seguridad y control en el desarrollo de una tecnología potencialmente peligrosa. La posibilidad de que una empresa emergente desarrolle una IAG y la despliegue sin las salvaguardas necesarias podría tener consecuencias catastróficas. Además, el riesgo de que tecnologías avanzadas caigan en manos de actores malintencionados es demasiado grande como para depender de empresas privadas con incentivos comerciales.
Formas de intervención del gobierno de EE.UU.
«Se prevé que el gobierno de EE. UU. se involucre a través de una combinación de medidas, que podrían incluir: la formación de una alianza con las principales empresas tecnológicas y laboratorios de IA mediante contratos de defensa o empresas conjuntas, la financiación masiva de infraestructura de computación (como clústeres de GPU), el establecimiento de una cadena de mando clara y segura y una intensa colaboración con la comunidad de inteligencia de los EE. UU.»
La estrategia propuesta no sugiere una nacionalización total de la investigación en IA, sino un modelo de colaboración similar al que existe con empresas como Boeing o Lockheed Martin. Este tipo de relación garantizaría que el gobierno mantenga un nivel de supervisión y control sin sofocar la innovación.
Factores que desencadenarán «El Proyecto»
«Se espera que varios factores desencadenen la puesta en marcha de «El Proyecto»: avances significativos en las capacidades de la IA (superando la capacidad de resolución de problemas de los PhDs), grandes ganancias en las empresas de tecnología debido a la IA, demostraciones aterradoras del poder de la IA (como la creación de armas biológicas por principiantes o el hackeo de sistemas críticos) y la creciente conciencia de la infiltración china en los laboratorios de IA estadounidenses.»
El documento original sugiere que la confluencia de estos factores hará inevitable la intervención gubernamental. A medida que las capacidades de la IA se acerquen a un umbral crítico, los gobiernos tendrán que actuar para evitar que esta tecnología caiga en manos equivocadas o se desarrolle de manera descontrolada.
Seguridad y control de la Superinteligencia
«La seguridad y el control de la superinteligencia requerirán medidas rigurosas, como la seguridad física de los centros de datos, la selección y la vigilancia de los investigadores clave, y una cadena de mando clara y responsable.»
El desarrollo de la IAG y la superinteligencia no solo es un desafío tecnológico, sino también un problema de seguridad. Si un sistema de IA avanzado llegara a ser accesible para grupos hostiles o estados canalla, podría convertirse en una herramienta de destrucción masiva. Por esta razón, la supervisión gubernamental deberá incluir medidas extremas como la restricción de la movilidad de los investigadores clave y la implementación de sistemas de monitoreo continuo.
Resumen de puntos importantes del documento original:
Defensa Nacional: La superinteligencia será el proyecto de defensa nacional más importante de EE. UU. La capacidad militar existente se volverá obsoleta. Se necesitará una completa remodelación de las fuerzas estadounidenses.
Cadena de Mando: La superinteligencia no debería estar bajo el control de CEOs privados. «En el mundo de los laboratorios privados desarrollando superinteligencia, es bastante plausible que los CEOs individuales tengan el poder de literalmente dar un golpe de estado al gobierno de los Estados Unidos«. Se necesita una cadena de mando gubernamental y un control similar al de las armas nucleares.
«Hemos decidido que los gobiernos democráticos deben controlar el ejército; la superinteligencia será, al menos al principio, el arma militar más poderosa. La propuesta radical no es el Proyecto; la propuesta radical es apostar por los CEOs de IA privada que ejercen el poder militar y se convierten en dictadores benevolentes.»
Seguridad: Es necesario asegurar la superinteligencia, dado que los laboratorios privados son incapaces de garantizar la seguridad necesaria ante el espionaje extranjero y la proliferación de esta tecnología a estados deshonestos. Se prevé que la filtración de los laboratorios de AGI por parte de China, sea un factor importante en el inicio del proyecto.
Aplicaciones civiles de la Superinteligencia
«Si bien inicialmente el desarrollo de la superinteligencia estará dominado por las necesidades de seguridad nacional, se espera que las aplicaciones civiles florezcan una vez que el período inicial de peligro haya pasado y el mundo se haya estabilizado.»
Históricamente, muchas tecnologías nacidas de proyectos militares han encontrado aplicaciones comerciales y beneficiosas para la humanidad. La superinteligencia no será una excepción: una vez que la fase crítica de su desarrollo haya sido superada, podría transformar industrias como la medicina, la energía y la automatización industrial.
Estabilidad internacional y la superinteligencia
«Se espera que «El Proyecto» tenga como objetivo primordial estabilizar el volátil panorama internacional que seguirá al desarrollo de la superinteligencia.»
El impacto geopolítico de la superinteligencia podría ser comparable al de la revolución nuclear. El documento original sugiere que el liderazgo estadounidense en esta tecnología será crucial para establecer normas internacionales que prevengan la proliferación descontrolada y aseguren un uso responsable.
El argumento principal de «El Proyecto» es que la superinteligencia es una tecnología demasiado importante como para dejarla en manos de empresas privadas sin supervisión gubernamental. La historia demuestra que, cuando una tecnología altera fundamentalmente el equilibrio de poder global, la intervención estatal es inevitable. En este sentido, la comparación con el Proyecto Manhattan no es exagerada. La gran pregunta es: ¿cómo se puede garantizar que esta intervención sea responsable y no se convierta en un monopolio tecnológico opresivo? El futuro de la superinteligencia dependerá de cómo respondamos a esta cuestión.