Cuando los pirómanos piden a los Estados “democráticos” que contengan el incendio que ellos mismos han encendido
El 23 de septiembre de 2026, el Consejo de Seguridad de la ONU celebró una sesión inédita, convocada por Francia, que ejerce este mes la presidencia rotatoria, bajo el título “Inteligencia artificial y seguridad internacional”. Hubo cuatro intervinientes: Yoshua Bengio (investigador canadiense, profesor de la Universidad de Montreal, una de las figuras fundadoras del aprendizaje profundo, colauréat del Premio Turing 2018 y copresidente del panel científico independiente de la ONU sobre la IA), Sam Altman (director general y cofundador de OpenAI, la empresa detrás de ChatGPT, presente en persona), Dario Amodei (director general y cofundador de Anthropic, la empresa detrás de Claude, exvicepresidente de investigación de OpenAI, que abandonó en 2021 para fundar Anthropic con su hermana Daniela Amodei) y Clément Delangue (director general y cofundador de Hugging Face, plataforma open-source de referencia para compartir modelos y conjuntos de datos de IA). Estos dos últimos intervinieron por videoconferencia, con una conexión por momentos perturbada en el caso de Amodei.
El contenido de las intervenciones
Altman abogó por estándares internacionales que permitan “medir las capacidades, evaluar los riesgos, determinar si las salvaguardias son suficientes y preservar un control humano real” sobre la IA. Llamó a crear sistemas de notificación rápida de incidentes para que el mundo pueda aprender de los fallos antes de que se conviertan en catástrofes, al tiempo que advirtió contra el “catastrofismo” y defendió una vía intermedia basada en el control humano, el beneficio para las poblaciones y la autonomía individual. Un punto notable señalado por CNN: sugirió que las decisiones clave correspondan a instituciones democráticas “responsables ante los ciudadanos a los que sirven”, una formulación que podría, de manera implícita, excluir a países como China.
Amodei, en línea, fue más directo sobre la gravedad del riesgo, al afirmar que, mal controlada, la IA podría representar un peligro para la humanidad en su conjunto. Propuso tres vías concretas: acuerdos internacionales específicos, como la prohibición de usar la IA para fabricar armas biológicas; sistemas de evaluación y verificación mutua entre Estados; y estándares mundiales de prueba de modelos combinados con un sistema de notificación de incidentes significativos para la seguridad mundial. También indicó que Anthropic ralentizaría tanto como fuera necesario para garantizar que cada nueva tecnología publicada sea realmente segura.
El contexto político inmediato
Estas intervenciones llegaban en un clima ya tenso: la víspera, en la Asamblea General, Donald Trump (presidente de Estados Unidos) había calificado cualquier idea de control internacional de la IA de “estratagema globalista” y afirmado que no sofocaría el crecimiento de algo que será más grande que la revolución industrial (“I’m not going to stifle growth of something that will be bigger than the industrial revolution”). Incluso había apuntado nominalmente a Amodei en las redes sociales, evocando el considerable poder “criminal y regulatorio” de su administración. Por el lado chino, el Ministerio de Asuntos Exteriores advirtió que el alarmismo y la confrontación perturbarían la gobernanza mundial de la IA. En cambio, Ed Miliband (ministro británico) instó al Consejo a actuar sobre la base de estas advertencias. Resultado: según la prensa especializada francesa, Estados Unidos opuso un rechazo tajante a cualquier “gobernanza mundial”, y la sesión terminó sin ningún documento formal.
También cabe señalar la fractura industrial previa: el ensayo de Amodei del 12 de septiembre (leer aquí), que llamaba a ralentizar la carrera por las capacidades, fue apoyado públicamente por Altman y por Elon Musk (patrón de Tesla, SpaceX y de la start-up de IA xAI), pero contestado por Mark Zuckerberg (director general de Meta) y Jensen Huang (director general de Nvidia, el fabricante de chips que alimentan la mayor parte de los modelos actuales de IA).
Revisión de reacciones y comentarios
La prensa generalista anglófona (CNN, Bloomberg, CNBC, Newsweek) retuvo sobre todo el carácter inédito de la escena: dos rivales directos mostrando la misma posición ante la instancia más solemne de la ONU, en un clima en el que Bengio consideraba que los peligros de la IA avanzada eran “reales e inminentes”.
Una parte de la prensa adoptó un tono mucho más escéptico. Gizmodo resumió el ejercicio como una rutina bien ensayada en la que los dos dirigentes dicen, en sustancia: “estoy construyendo una tecnología que amenaza al mundo y necesito que ustedes creen políticas para detenerme”, señalando la ausencia de toda restricción real que se derive de ello. Un sitio francófono (nlto.fr) fue aún más frontal, acusando a los dos directores generales de denunciar riesgos que ellos mismos siguen creando, y evocando un “espectáculo diplomático” que enmascara el rechazo de cualquier restricción regulatoria real. En el mismo espíritu, una comparación de trece medios (NewsCord) señalaba que durante la sesión no se había presentado ninguna verificación independiente de las afirmaciones de Altman y Amodei sobre la compresión de los plazos y la urgencia de los riesgos, recordando que esas alertas descansan esencialmente en la palabra de las empresas concernidas.
Algunos elementos de lectura
Esta secuencia ilustra una tensión estructural bien identificada en el debate sobre la gobernanza de la IA: las empresas que piden ser reguladas son también las que construyen su ventaja competitiva sobre la rapidez del desarrollo, y sus llamados pueden leerse de manera igualmente plausible como una preocupación sincera, una maniobra de legitimación política o un intento de captura regulatoria, con reglas diseñadas para consolidar la posición de los laboratorios ya situados en cabeza frente a competidores chinos u open source. La fractura Washington-Pekín sobre la “gobernanza mundial”, con las dos potencias tecnológicas dominantes absteniéndose de apoyar el llamado a reglas vinculantes impulsado por una veintena de países europeos, confirma asimismo que estamos lejos de un momento de consenso tipo Bletchley Park:[1] se trata más bien de un golpe diplomático francés para elevar el rango institucional del tema que de un acuerdo operativo.
NOTA
[1] Bletchley Park es una finca situada en Buckinghamshire, Inglaterra, célebre por haber albergado durante la Segunda Guerra Mundial el centro británico de descifrado, donde matemáticos y criptoanalistas, entre ellos Alan Turing, lograron romper los códigos de la máquina alemana Enigma. Es un lugar fundador en la historia de la informática y de la inteligencia.
Allí tuvo lugar, en noviembre de 2023, la primera AI Safety Summit, una cumbre internacional sobre la seguridad de la inteligencia artificial organizada por el Reino Unido. Reunió a representantes de unos treinta países, incluidos Estados Unidos y China, así como a los grandes laboratorios de IA, entre ellos OpenAI, Anthropic, Google DeepMind, etc., y desembocó en la “Declaración de Bletchley”, un texto común que reconocía los riesgos planteados por la IA de frontera y llamaba a la cooperación internacional, sin crear por ello ningún mecanismo vinculante.
Desde entonces, se ha convertido en una especie de atajo en el ámbito de la gobernanza de la IA para designar este tipo de cumbre multilateral que produce un texto de intención compartido pero no vinculante, por oposición a un verdadero tratado o a un órgano de control. Decir que la sesión del Consejo de Seguridad no fue “un momento de consenso tipo Bletchley Park” significa que ni siquiera alcanzó ese nivel mínimo de acuerdo común: terminó sin texto alguno.
