El monstruo de Frankenstein es una historia conveniente, una que nos distrae del doctor.
Líderes e ingenieros de las principales empresas occidentales de inteligencia artificial afirman que sus programas podrían aniquilar a la humanidad. Algunos debaten si la probabilidad es superior o inferior al 10%. Lo curioso es que estos anuncios catastrofistas se vienen repitiendo desde hace años, mientras que las acciones de las empresas de IA, lejos de caer, han subido espectacularmente. ¿Qué clase de sistema es este, en el que quienes advierten de que una tecnología puede poner en peligro a la humanidad son, al mismo tiempo, quienes tienen el mayor incentivo económico para seguir desarrollándola?
Esto no significa subestimar los riesgos de la inteligencia artificial, que son numerosos y muy graves. Como tecnología, por ejemplo, podría reemplazar muchas tareas y empleos que hoy sustentan a millones de familias en todo el mundo. De hecho, no está claro que tenga mucha capacidad para aumentar la productividad, ni que el sistema vaya a crear nuevos empleos para quienes sean desplazados. También es arriesgado concentrar tanto poder en manos de unas pocas empresas privadas, que han penetrado profundamente en los sistemas informáticos y de seguridad de los países líderes del mundo. Podríamos hablar también de riesgos geopolíticos: cuando entregamos el control de un proceso a una empresa estadounidense —para gestionar la red eléctrica, por ejemplo—, también le estamos entregando un arma que puede ser utilizada contra nosotros. Y, por supuesto, la IA no existe de la nada; necesita electricidad, agua, centros de datos, chips, redes y enormes cantidades de materiales, de modo que su aparente inmaterialidad oculta una infraestructura física cada vez mayor que agrava el problema del cambio climático. Todo esto es absolutamente cierto, y en gran medida puede describirse como una forma de acabar con el mundo tal como lo conocemos. Sin embargo, en la práctica, nos dejamos llevar por la idea de que la IA nos va a matar de una forma mucho más extravagante.
Resulta extraño que sean los ingenieros de IA quienes anuncien que podría matarnos. Salvo algún que otro terrorista, nadie se atreve a declarar públicamente que tiene el poder de acabar con todos nosotros. Esta disociación solo se sostiene si aceptamos la premisa de que la IA, o alguna parte de ella, se ha independizado como sujeto y que, al igual que la criatura de Frankenstein, ya no está bajo el control de su creador. Y esto es, cuanto menos, cuestionable. Richard Seymour ya lo expresó brillantemente: la capacidad de la IA para actuar depende de una infraestructura, un conjunto de permisos y un conjunto de objetivos que algún ser humano ha diseñado e implementado. Si un ingeniero diseña un modelo capaz de realizar ciberataques contra empresas y lo activa sin ninguna medida de seguridad —es decir, sin limitar el daño que puede causar—, entonces el responsable es el creador, no el modelo, por muy sofisticado que sea. En términos más convencionales: la IA no tiene conciencia y todos sus objetivos internos están programados de antemano. Incluso cuando surgen comportamientos imprevistos, la responsabilidad política recae en quien decidió implementar el sistema sin controles. En este sentido, la IA puede matarnos del mismo modo que las bombas nucleares, es decir, como instrumento de destrucción, aunque lo que importa es que detrás de ella hay alguien que la ha impulsado políticamente con esa voluntad de matar.
Aunque no han sido del todo claros sobre cómo la IA nos matará, creo que los ingenieros hablan en serio. Todos observamos, mes tras mes, el enorme potencial de la inteligencia artificial, y sabemos que puede ser una bendición o una maldición, según convenga. También sabemos que nosotros, los usuarios de sus productos, no solo trabajamos con versiones inferiores a la vanguardia tecnológica (que prueban en sus laboratorios), sino que además su funcionalidad completa está restringida para nosotros. Si no podemos usar todo el conocimiento almacenado en esos centros de datos —libros, artículos, cada rastro de internet— para, por ejemplo, diseñar una bomba biológica casera, es porque alguien ha prohibido esa funcionalidad. Y con toda la razón, debo añadir. Pero aquí está la clave: sabemos que el programa podría llegar a tales extremos.
Cuando se nos advierte que la IA podría matarnos, también se nos dice que su potencial “creativo” e “innovador” ha aumentado considerablemente en comparación con etapas anteriores. Y bajo el capitalismo, esto equivale a decir que su capacidad para generar ganancias se ha multiplicado, lo que explica la fiebre de inversiones multimillonarias en empresas de IA. Sin embargo, como ya he mencionado, no está claro que la productividad esté aumentando para la economía en su conjunto, por lo que la IA podría no tener ningún efecto positivo en el crecimiento. Y estas dos cosas —la ausencia de cualquier efecto en la productividad y la brutal inversión en el sector— no pueden mantenerse juntas por mucho tiempo. Por lo tanto, todo apunta a que lo que realmente tenemos es una inmensa burbuja, alimentada por enormes cantidades de capital internacional ocioso y sostenida por anuncios explosivos.
Sería mucho más razonable hablar de los riesgos reales e inmediatos de la implementación de esta tecnología. Su creciente capacidad, por ejemplo, para ser utilizada como tecnología de vigilancia en el mundo laboral y en la vida civil. Las peores distopías podrían hacerse realidad si permitimos que nuestro tiempo de trabajo, y nuestra libertad fuera de él, sean monitoreados por agentes de IA programados por el capital. Porque la IA nunca ha sido una fuerza autónoma (salvo conceptualmente), sino un producto con dueños. Esos dueños son multimillonarios que hacen negocios con los gobiernos y las empresas más poderosas del mundo, lo que significa que son instrumentos de clase.
Y que el lector se pregunte: ¿qué pensó al leer el titular? ¿Acaso asumió que la humanidad está realmente en peligro por una amenaza existencial incorpórea, abstracta y todopoderosa, y que, como el Dr. Frankenstein, terminaremos muriendo a manos de nuestra propia criatura? Esa es, sin duda, la narrativa dominante. Pero quizás el lector ya se haya anticipado a mi conclusión: el problema no es que la humanidad esté a punto de perder el control de la IA, sino que una minoría siempre ha ostentado ese control, y la humanidad, ahora considerada la mayoría, está simplemente a merced de un puñado de millonarios. Por lo tanto, si queremos evitar la destrucción de nuestro mundo y de nuestro planeta, la solución es limitar el poder de quienes controlan la inteligencia artificial.
