La IA ya muestra su carácter invasivo por su prevalencia en los medios de comunicación. La proliferación de escritos sobre el tema no ayuda necesariamente a entender sus características y sus efectos. En gran parte, ello ocurre porque se trata, como en muchos otros casos, de tecnologías para expertos. Tecnologías en las que prolifera un lenguaje críptico, una forma de expresión en la que una gran parte de los mensajes son generados por el propio sector, y donde se habla de regulación sin que quede claro lo que hay que regular y cómo hacerlo.
En las últimas semanas hemos asistido a una cascada de declaraciones de varios de los principales promotores de estas tecnologías, que anuncian las siete plagas sin que expliquen con detalle dónde están los peligros y cómo superarlos. Uno tiende a pensar que estas declaraciones son una parte del teatro político con el que estos «gurús» nos están escondiendo otro tipo de objetivos y batallas que se nos escapan. O, simplemente, que el ruido sirve para seguir ampliando su presencia mediática.
Esta nota tampoco va a aclarar mucho. Simplemente trato de plantear las cuestiones que tal vez la izquierda debería plantearse para hacer frente a una nueva irrupción tecnológica que no controla, y que puede tener impactos muy graves en diversos ámbitos.
Considero que hay, al menos, cinco ámbitos críticos sobre los que merece la pena incidir.
1) Control social
En este sentido, la IA refuerza las cuestiones que ya planteaba la informática tradicional y las redes sociales: la enorme capacidad de obtener información y tratarla con objetivos privados o de grupos concretos. Una parte de la historia del capitalismo se puede describir como una búsqueda del control del comportamiento humano. Ello está en la historia fundacional de la manufactura, un sistema pedestre pero eficaz del trabajo, combinando la supervisión visual, el reloj, y los métodos disciplinarios. La mecanización industrial introdujo un nivel mayor: el ritmo de la máquina obligaba al empleado a seguir su ritmo, y le despojaba parcialmente de una parte de su control técnico del proceso. El taylorismo, con su estudio sistemático del trabajo manual, y su imposición de métodos y tiempos reforzó la pérdida de la autonomía del trabajo cualificado y reforzó el control sobre los ritmos. Las tecnologías de la información y comunicación permitieron un nuevo salto. Facilitan el control a distancia y aportan gran cantidad de información sobre todo lo que hacemos. Las posibilidades de control no sólo favorecen la disciplina laboral. También facilitan el control sobre otros aspectos de la vida, como el consumo o el comportamiento político. La IA, con su enorme capacidad de conectar bases de datos, de tratar la información, tiene un potencial brutal de extender el control sobre toda actividad humana y, con ello, contribuir poderosamente a favorecer nuevas y viejas desigualdades. El modelo chino de control ciudadano nos acerca más a un mundo distópico que a una sociedad socialista de personas libres.
2) Analfabetismo funcional
La IA facilita el acceso a información tratada. Puede ser una herramienta útil para investigadores, para generar conocimiento. Tiene el peligro de que su información esté sesgada, olvide cuestiones clave o seleccione inadecuadamente. Posiblemente, si somos expertos en una materia, podremos descubrir los fallos y los sesgos. Por ejemplo, en mi campo de trabajo, cualquier economista crítico formado puede detectar si la información que le aporta la IA puede ignorar aportaciones relevantes o, simplemente, estar dominada por la teoría neoclásica. Pero este peligro sólo se elimina si ha existido un proceso de formación independiente, anterior al uso de la IA. Si uno, desde el principio de su formación, simplemente se acostumbra a consultar la IA, difícilmente desarrollará una capacidad crítica adecuada. Se puede generar una enorme masa de personas informadas sin formación crítica, una buena base social dependiente.
Que el peligro no es baladí lo podemos observar con otras tecnologías próximas. Mi diana es el GPS. Una tecnología que favorece que la gente solo sepa moverse siguiendo instrucciones (es el taylorismo aplicado a la movilidad). Antes del GPS, uno aprendía a leer mapas. Los que hemos practicado el excursionismo desde hace muchos años sabíamos cómo orientarlos, cómo leer el relieve, y qué hacer cuando el mapa fallaba (muchos mapas de montaña son incompletos). Ahora, mucha gente sólo sabe andar por el monte siguiendo un camino. Y muchas veces el camino ha sido buscado en internet, en páginas web que no controlan su calidad y que pueden fallar (sin contar que lo que falle es la cobertura del móvil). Tengo bastantes anécdotas recogidas al respecto, de excursiones donde con un buen mapa se hace mejor la ruta. En ciudad aún es más patético. Con un mapa y leyendo los nombres de las calles, es muy fácil orientarse. Ahora mucha gente debe andar mirando el móvil, y es incapaz de moverse de forma autónoma cuando acude a un lugar no habitual.
Sin duda, la única forma de soslayar esta cuestión es diseñando un modelo formativo que sólo conduzca a la IA cuando uno ya está formado. Conociendo las tendencias actuales, no está claro que los gobernantes sean tan esclarecidos para entenderlo.
3) Impacto ecológico
La IA consume cantidades ingentes de energía y agua. Añade nueva presión a un planeta en los límites. Es un paso más en el cuento de la lechera con el que se inició la era digital: la de que estábamos pasando de una economía material a la de la información. La era actual es la de mayor consumo material de la historia. Toda la infraestructura digital requiere de materiales, tierras raras, energía, agua. Y, en cambio, no altera la vieja estructura de la economía industrial. De hecho, en gran parte la potencia. Por ejemplo, la globalización ha generado un aumento sin precedentes del transporte de mercancías, en gran parte fomentado por las posibilidades de control a distancia de las TIC.
Si el impacto material es muy grande, cualquier sociedad racional lo que haría es limitar el uso de la IA a aquellas actividades donde presenta ventajas netas muy claras, y limitarlo para otros fines.
4) Automatización de decisiones complejas
La IA ofrece velocidad, capacidad de elaborar respuestas casi automáticas a situaciones críticas. Hay veces que esta característica es muy útil. Por ejemplo, en los casos de urgencias sanitarias, una actuación rápida de los servicios de urgencia y un diagnóstico preciso pueden salvar muchas vidas. Pero en muchas situaciones reales la realidad es compleja, y los problemas no siempre obedecen a un patrón preestablecido, además de que las propuestas de la IA pueden implicar incumplimientos éticos o efectos secundarios. El sistema puede adolecer, como efectivamente le ocurre, de algoritmos sesgados y programas erróneos. No hay sistemas sin fallos, y las decisiones complejas automatizadas corren el riesgo de generar mayores desastres de los que pueden resolver.
Está, además, el problema que han desvelado las últimas manifestaciones de los grandes gurús, la de sistemas invasivos y autónomos, del HAL 9000 de 2001. Una odisea en el espacio. Suena bastante sospechoso y poco creíble que la amenaza provenga de tipos que llevan años ejerciendo una actividad sin ningún escrúpulo. Como han explicado algunos comentaristas, detrás se esconde una guerra entre opciones técnicas diferentes y el temor de la competencia china. Parece más bien que, si la IA ataca sistemas, o penetra en bases de datos públicas, es porque alguien se lo ha indicado. Y es incluso posible que los últimos ataques tengan un componente mafioso, el de recordarle a las administraciones públicas que o bien regulan como ellos quieren o les crearán problemas.
5) Riesgo financiero sistémico
A corto plazo, este riesgo es uno de los que puede provocar un estallido. Hasta ahora, la IA es un depredador de recursos financieros. Con una rentabilidad que de momento es negativa, y unas tasas de retorno inciertas. Pero ha tenido la capacidad de atraer a inversores cuya expectativa de ganancia depende de que la burbuja no se detenga[1]. Hace ya tiempo que muchos analistas temen una repetición del estallido de las puntocom, con la diferencia de que ahora sería mucho más grande, y podríamos volver a experimentar una crisis financiera de elevado impacto.
¿Regulación o control social?
La variedad de problemas y amenazas que presenta la IA requiere una diversidad de respuestas que no pueden limitarse a una regulación convencional. Esta siempre será insuficiente, y dejará grandes espacios de poder a las grandes empresas. Si los beneficios sociales que aporta la IA son tan grandes o universales, quizás estaríamos ante un caso de bien público que no se puede dejar al capital privado. Hay tantas externalidades positivas y negativas potenciales que estamos cerca de ello. Con una característica particular: la cuestión del control puede favorecer tanto alguna variante de dictadura del capital privado (como ocurre ahora, cuando las grandes operadoras controlan nuestras acciones; utilizan los datos que generamos en beneficio de quien paga por ello…) como de gobierno despótico, por más benevolente que sea (a esto apunta el modelo chino). Por ello, habría que pensar en algún tipo de gestión por organismos independientes, controlados por una pluralidad de agentes sociales.
Existe en todo lo anterior un problema relevante. El papel que juegan los especialistas en la tecnología no es directamente accesible para cualquiera. La única posibilidad de hacerle frente es garantizando que las organizaciones sociales puedan contar con técnicos especializados que sepan entender los problemas y plantear soluciones. Pensar que sólo con acceder a los algoritmos se tendrá control de la situación suena ingenuo. En la izquierda ya habido mucha ingenuidad en el pasado. El triunfo de los grandes tiburones informáticos se sustentó a lomos de la visión libertaria de internet; faltó perspectiva y ausencia de visión crítica. Ahora el desafío es aún mayor. Se requiere elaborar una estrategia comprensiva del conjunto de problemas, anticapitalista, igualitaria y democrática en sus objetivos estratégicos.
-
Para más información sobre el volumen de esta operación, resulta interesante el artículo «IA: la mayor apuesta económica de la historia de EE. UU.», de Michel Roberts, publicado en Viento Sur. ↑
https://mientrastanto.org/260/notas/los-problemas-de-la-ia/.
