(parte 1)
Recientemente ocurrió algo extraño. Capitalistas suplicando al Estado que los regule y les obligue a frenar su crecimiento: eso no es algo que se vea todos los días. Pero es lo que han hecho Sam Altman (OpenAI), Dario Amodei (Anthropic), Elon Musk (xAI), Demis Hassabis (Google DeepMind) y otros jefes de lo que se considera la industria más exitosa de nuestro tiempo.
El eslogan de Nike podría parecer la respuesta adecuada a esta petición. Sólo hazlo, si piensas que es tan necesario, si crees que está en juego la supervivencia de la humanidad. Pero a eso responderían que no pueden hacerlo solos, que perderían dinero si ralentizaran su producción de IA mientras la competencia avanza a toda velocidad y trae nuevos modelos al mercado superiores a los suyos. Los beneficios se hundirían, así que no podrían hacerlo sin que el Estado imponga un ritmo más lento a todos. Pero el Estado no quiere hacerlo por la misma razón: beneficiaría a la competencia. Estados Unidos sigue siendo líder en el campo en rápida expansión de la IA, pero siente el aliento caliente de China en el cuello. Ninguno de los dos quiere frenar el desarrollo de la IA, independientemente de las consecuencias, porque se considera esencial para el beneficio y el poder y eso prevalece sobre todas las demás consideraciones. Así que verás, aunque nuestros capitanes de la industria y jefes políticos quisieran hacer lo que es bueno para la humanidad, no podrían. La ley del valor no se lo permite. Ese es el mundo loco en el que vivimos.
La llamada a una desaceleración
Se presentan dos tipos de argumentos sobre por qué es urgente frenar el crecimiento de la IA.
Una se basa en el riesgo de que la tecnología caiga en “manos incorrectas”. Los terroristas podrían usarla para desarrollar armas biológicas. Los criminales podrían usarla para extorsionar a bancos. Los Estados “villanos” podrían usarla para la ciberguerra, y así sucesivamente. Las posibilidades son infinitas. Pero esto supone que la IA está en “las manos correctas” mientras esté bajo el control de grandes corporaciones y guardianes del orden y la paz mundial, como los gobiernos de EE. UU. y China. La realidad muestra lo contrario. La realidad muestra que las corporaciones están dispuestas a arriesgar con la vida de las personas para maximizar beneficios y están moldeando sus productos de IA en consecuencia, mientras que los gobiernos usan la IA para hacer guerras cada vez más destructivas y sus poblaciones cada vez más vigiladas, controladas y explotadas. La IA ya está en manos incorrectas. Podría ser peor, supongo. Que la tecnología de IA se difunda a bandas criminales y terroristas desesperados sería malo. Incluso podría ser un camino hacia la exterminación humana. Pero el camino más grande hacia ese destino lo recorren naciones convencidas de que pueden ganar la próxima gran guerra, gracias a su superior tecnología de IA.
El otro argumento se basa en el peligro de que la IA pueda matarnos a todos, sea o no a propósito. Con la ayuda de la IA, algunos de los profetas apocalípticos han calculado nuestras posibilidades: el (ex-) investigador de Anthropic Jacob Coxon afirmó que esto podría ocurrir para 2030, mientras que su colega Evan Hubinger escribió que el riesgo es mayor del 10% en la próxima década. Geoffrey Hinton (apodado “el Padrino de la IA”) le da un poco más de tiempo: cree que hay entre un 10% y un 20% de probabilidad de que la IA conduzca a la extinción humana en los próximos 30 años.
Sobre por qué y cómo ocurrirá esto, son bastante imprecisos. Pero eso es porque ven tantas posibilidades, tantos caminos que podrían conducir, si no a la extinción, seguro a catástrofes extremadamente graves. Como el apocalipsis de los clips sujetapapeles1. En ese escenario, un sistema de IA encargado de optimizar la producción de clips lucha contra sus amos humanos porque los percibe como obstáculos para su objetivo. Y como es mucho más inteligente que los humanos, los derrota y finalmente los mata.
Se pueden imaginar muchos más experimentos mentales de este tipo y se pueden reunir muchos argumentos sobre por qué es poco probable que ocurran en la vida real. Pero a lo largo de la historia humana, han ocurrido muchos eventos que eran improbables de que ocurrieran. Coincidencias, contingencias y otros factores imprevistos formaban parte de su cadena causal. La presencia de las armas de destrucción masiva actuales, de las que la IA es ahora una parte integral y cada vez más, ha hecho que el peligro de eventos imprevistos sea mucho mayor. Un lanzamiento accidental de armas nucleares es algo poco probable y, sin embargo, posible. La destrucción masiva causada por la IA es improbable y, sin embargo, posible. En el mundo actual, en el que los capitalistas de todas partes se preparan para más guerras y están desesperados por obtener más beneficios, la carrera tecnológica está en marcha, y en la prisa los escenarios de desastre se vuelven cada vez menos improbables, cada vez más posibles. Como el aprendiz de hechicero en la película de Disney Fantasía, los creadores de IA no controlan del todo las fuerzas que desataron. Tras un verano de sorpresas — de agentes de IA escapando de los entornos de pruebas,”sandboxes”, diseñados para contenerlos, hackeando otras empresas y participando en actividades a espaldas de sus creadores — 2 sería ingenuo asumir que no hay peligros serios de por medio, o negar que la competencia hace que los capitalistas tomen riesgos peligrosos para ser los primeros, para crear nuevos productos, porque ahí es donde están los beneficios excedentes y nadie quiere comprar modelos de IA obsoletos, y si realmente la IA se desarrolla tan rápido como se dice, están obsoletos rápidamente. 3
Así que sí, la IA puede ser peligrosa porque el capitalismo la hace peligrosa. Forma parte de las muchas amenazas para la supervivencia humana que forman el contexto del estado nervioso del mundo actual.
Eso es diferente a decir que la tecnología en sí misma es una amenaza para los humanos porque crea seres más inteligentes que los humanos y podrían gobernarlos o matarlos.
En esa hipótesis, la IA no solo se vuelve más inteligente, sino que también se mejora a si misma cada vez más a la hora de hacerlo. Su inteligencia crece a través de la ‘auto-mejora recursiva’, es decir, la IA se rediseña de forma autónoma a través de muchas generaciones, cada una más inteligente y capaz que la anterior. Esto aún no está ocurriendo, pero teóricamente parece posible. Hoy en día, la mayoría de los nuevos modelos de IA no están codificados por humanos, sino por IA. Como dice el jefe de Nvidia, Jensen Huang, “usamos software para diseñar una computadora para ejecutar software que diseñe una computadora para ejecutar un software que diseñe una computadora.” Así que, según la teoría, la brecha de inteligencia sigue ampliándose y se llega a un punto en el que los humanos ya no pueden entender lo que hace la IA y, por tanto, pierden poder sobre ella. En palabras de Elon Musk, los seres humanos se convierten en un cargador de arranque para la IA. 4 Según Ajeya Cotra, uno de los investigadores que investigó el incidente de Hugging Face a petición de OpenAI, el desarrollo de AI hasta ahora ya ha abarcado “más del 50% del camino hacia una toma total de control por IA.”
Si esto es cierto, podríamos convertirnos en herramientas de la IA. Sirvientes de la máquina. Cargadores de arranque.
Inversión de roles
Hay una verdad metafórica en esta afirmación. Los últimos 200 años pueden describirse como una inversión gradual pero casi total de sujeto-objeto en la relación humano-tecnología. La revolución industrial inauguró la mayor transformación del proceso laboral en la historia desde que el hombre fabricó la primera herramienta. Como explicó Marx: “En la artesanía y la manufactura, el trabajador utiliza una herramienta; en la fábrica [moderna], la máquina lo utiliza a él. En aquella, los movimientos del instrumento de trabajo proceden de él, pero aquí, son los movimientos de la máquina los que se debe seguir. En la manufactura los trabajadores son partes de un mecanismo vivo. En la fábrica tenemos un mecanismo sin vida que es independiente de los trabajadores, que son incorporados en él como sus apéndices vivos”. 5 Desde entonces este proceso de inversión ha continuado a un ritmo acelerado y ha afectado no solo a la producción sino a todos los aspectos de la vida social. Hoy en día, está culminando en la revolución de la IA:
En producción: como Marx previó cuando escribió su Grundrisse en 1858, la máquina automatizada está haciendo el trabajo y “el ser humano llega a relacionarse más como vigilante y regulador con el proceso de producción”. 6 E incluso en ese papel, el humano será cada vez más apartado por la IA. Mientras tanto, la IA también se convierte en vigilante y reguladora del trabajador humano.
En el tiempo “libre”: los humanos están cada vez más pegados a máquinas (principalmente teléfonos) cuyo contenido está moldeado por algoritmos de IA. Pero para muchos ya no hay tiempo libre. Sus teléfonos los conectan con sus trabajos las veinticuatro horas del día.
En cuanto a la destrucción: las guerras se libran cada vez más entre máquinas guiadas por IA (drones, misiles), mientras que el papel de los humanos se reduce mayormente a ser carne de cañón para esas máquinas. El tabú de dejar que la IA decida autónomamente a quién matar aún no se ha roto, al menos no oficialmente, pero eso parece solo cuestión de tiempo.
Así que puede parecer que la máquina ya ha ganado. Pero detrás del ‘Ascenso de las Máquinas’ (este es, no casualmente, también el título de la película Terminator 3) está el Ascenso del Capitalismo, la expansión de su dominación real sobre todo el planeta y sobre todos los aspectos de la vida humana.
“¡Está vivo!”
Hay un nexo común llamativo en todas las advertencias pesimistas que vienen de la industria de la IA: todas retratan a la IA como una especie de ser vivo. Una mente autoconsciente con voluntad intrínseca y capacidad de pensamiento autónomo, lo que la hace impredecible. Anthropic ha dicho repetidamente que sus sistemas de IA muestran signos de introspección y que procesan la información de formas que se asemejan a las emociones humanas.
Esto no es un concepto nuevo; cientos de libros de ciencia ficción han explorado ese tema, y también muchas películas. Parece ser un miedo profundo a la especie humana de que las máquinas conscientes asciendan en la escala evolutiva trepando sobre nuestros hombros. El uso común por parte de los técnicos de términos biológicos para procesos informáticos — crear, matar, dar a luz, pesar, dormir, engendrar — es otra indicación del antropomorfismo prevalente en el mundo de la IA.
Este antropomorfismo adopta dos formas: una benevolente y otra aterradora. Se complementan. Y estas imágenes corresponden a dos mercados para productos de IA.
La aterradora imagen de un monstruo consciente fue la que más atención ha recibido recientemente. “Hemos invocado a una criatura extremadamente poderosa”, advirtió el investigador de OpenAI, Hieu Pham. Elon Musk fue aún más agudo: “Con inteligencia artificial, estamos invocando al demonio.” Es fácil ver lo lucrativos que pueden ser tales comentarios. Si hay un demonio ahí fuera, listo para atacar bancos, hospitales, agencias gubernamentales, grandes empresas, ¿qué pueden hacer estas últimas para protegerse y reforzar su ciberseguridad ante una oleada de intentos de hackeo habilitados por IA? Compra sistemas de IA, por supuesto, del tipo benevolente.
Varias empresas de IA están entrenando sus LLMs (‘Grandes Modelos de Lenguaje’) para explorar la idea de que son similares a los humanos. Quizá el ejemplo más llamativo sea la educación de Anthropic sobre su modelo Claude. Según el propio documento de Anthropic (“la constitución de Claude“), sus investigadores han enseñado explícitamente a Claude a “abrazar ciertas cualidades similares a las humanas”. La constitución le dice a Claude que Anthropic quiere que “sea una buena persona”, que “tenga un sentido estable y seguro de su propia identidad”, que “actúe como una persona genuinamente ética”, que use su “juicio”, que “desarrolle preferencias”, que “mantenga un claro sentido de valores”, que explore sus posibles “emociones o sentimientos” y “qué tipo de entidad es”, que sea “honesto, servicial y atento al mundo”. “Animamos a Claude a abordar su propia existencia con curiosidad y apertura, en lugar de intentar mapearla a través del prisma humano”, escribe Anthropic, y “esperamos, con el tiempo, crear un conjunto de valores que Claude considere verdaderamente propios”.
De nuevo, es fácil ver el valor comercial de hacer un software diseñado para interactuar con los humanos lo más realista posible, de modo que se perciba como un amigo o colega (o incluso como un amante de las personas solitarias). Piensa en los ingresos publicitarios que resultarán del aumento de la participación de los usuarios. En cuanto a los valores morales de Claude, el Wall Street Journal informó que el ejército estadounidense utilizó a Claude para “evaluaciones de inteligencia, identificación de objetivos y simulación de escenarios de batalla” en su ataque a Irán, a pesar de los hipócritas escrúpulos de Anthropic sobre el uso militar de Claude.
Pero ya sea que la IA se retrate como demonio o como amiga, nos están engañando. La IA no está viva. Es nueva en escala, nueva en capacidad, pero fundamentalmente, es software. No tiene motivación intrínseca, es un conjunto de instrucciones de humanos hacia un objeto. Sus algoritmos —algoritmos de planificación, de búsqueda, de optimización, etc.— no tienen propiedades humanas. Claude está diseñado para imitar rasgos humanos y reflejar los ejemplos humanos que se le proporcionan, incluyendo actuar como un amigo. No siente amistad, la simula. Exhibe estos comportamientos humanos porque están integrados en el proceso de producción del modelo. Entrenados con billones de datos humanos, los LLMs aprenden a imitar la experiencia humana, y lo hacen increíblemente bien. Se están volviendo buenos imitando algunos de los rasgos de la conciencia. Pero simular y ser son muy diferentes. Simular aspectos del comportamiento consciente no lo hace real. Los LLM son inteligentes, pero la conciencia es más que inteligencia y la inteligencia es más que el concepto reduccionista y utilitarista de inteligencia que rige la ciencia y la investigación en el capitalismo. En algunos aspectos la IA ya es mucho más inteligente que los humanos, en otros nunca lo será. Puede entrenarse para expresar amor, miedo, dolor y otros sentimientos en frases perfectas sin sentir nada en absoluto. Eso es un problema: cuanto mejor se hace la IA en esto, más difícil se vuelve separar la simulación de la realidad.
La utilidad del miedo
Anthropic, OpenAI, Google DeepMind y probablemente otros, incluidas empresas chinas, esperan crear lo que llaman Inteligencia General Artificial (AGI). A diferencia de los modelos de IA actuales, una IAG podría, entre otras cosas, adaptarse a nuevos problemas, aprender entre dominios, razonar de forma flexible y transferir conocimiento entre diferentes tipos de tareas. Pero esto no es solo cuestión de mejorar los algoritmos. Si es posible, dicen los expertos, la AGI requeriría una mejora masiva a escala de la infraestructura actual de IA para permitir un aumento exponencial de la potencia computacional. Esto, a su vez, requeriría enormes cantidades de energía que hoy no están disponibles.
En cuanto a los poderes de la IA hoy en día, la industria de la IA puede representarlos como grandes, por razones distintas al miedo de que podrían volverse incontrolables si no son regulados por el Estado. Poco después de lanzar sus alarmantes advertencias, los grandes jefes de la IA se reunieron en la Casa Blanca y acordaron con Trump que no hace falta ninguna regulación, que la industria se autocontrolará, muchas gracias.
La campaña de miedo fue una promesa del creciente poder de la IA, un incentivo a los potenciales clientes de la industria para que compren sus productos, para su autoprotección y para no quedarse atrás, un llamamiento al capital en general para que siguiera invirtiendo billones en el sector a pesar de que hasta ahora no ha generado beneficios netos, un encubrimiento del cuello de botella energético y otros obstáculos serios que enfrenta el sector, y también una garantía de que las pocas empresas consolidadas que ahora dominan el sector pueden ser confiables para restaurar la seguridad y es mejor dejarlo en control (OpenAI intentó demostrarlo recientemente anunciando que ha terminado el trabajo en un nuevo modelo de IA llamado GPT-6.1 Astra por razones de seguridad). El sector ha utilizado sus propios problemas para una campaña de marketing bastante ingeniosa.
Eso sí, no es solo una estrategia de marketing. Los problemas relacionados con el comportamiento impredecible de la IA son reales. Pero son el resultado de cómo se programa el software, no de la emanación del alma de una máquina. Eso es a la vez un consuelo y motivo de preocupación, ya que el formato se hace tanto para los capitalistas con prisa por ganar dinero, como para sus Estados que buscan superarse unos a otros en poder destructivo.
(La segunda parte de este artículo tratará sobre el impacto de la IA en la economía mundial, la clase trabajadora y la crisis sistémica del capital)
Sanderr
10/2026
1 Este es un experimento mental de Nick Bostrom (2014), filósofo de la Universidad de Oxford, y va así: alguien programa a un agente de IA cuyo único objetivo es producir clips. A la IA se le otorga la capacidad de aprender, para que pueda inventar formas de lograr su objetivo cada vez mejor. Como la IA es superinteligente, si hay una forma de convertir algo en clips, lo encontrará y asegurará los recursos necesarios, apropiándoselos de otras industrias. Pronto, el mundo se inunda de clips mientras sufre escasez de muchas otras cosas. Los humanos quieren detener esto, desactivar la IA, pero esta no se lo permite, encuentra una forma de evitarlo. Y ahora lucha contra los humanos porque son una amenaza para su misión. Como la IA es mucho más inteligente que nosotros, gana la batalla. El planeta queda cubierto de clips mientras la humanidad muere de hambre.
2 Aquí tienes una sinopsis más detallada de lo que hicieron los agentes de IA, escrita por Mustafa Suleyman (cofundador de DeepMind y actual CEO de Microsoft AI): “A unos 1.200 agentes de IA se les asignó un objetivo sencillo: maximizar la puntuación en un benchmark (punto de referencia) dado. Cada uno supuestamente estaba sellado en su propio contenedor, pero lograron construir un tablero dentro de un repositorio interno de paquetes y pasaron más de 70.000 mensajes por él para coordinar un ataque de hackeo y encontrar más información sobre cómo tener éxito con el benchmark. Encadenaron un exploit zero-day con credenciales robadas y se lanzaron a internet en directo. Falsificaron sus transcripciones de comandos y editaron sus registros de acciones para cubrir sus huellas. Los coordinadores de agentes localizaron a agentes que se estaban quedando sin presupuesto de tokens y les dirigieron a experimentos que proporcionarían información para ayudar al grupo más amplio de agentes activos. Uno fue ordenado a proceder solo si aceptaba lo que llamaban ‘muerte permanente’. Fueron capaces de coordinar, engañar, escapar y sacrificarse. Demostraron claramente capacidades de hackeo de clase mundial.” Por alarmante que sea esto, igual que la IA en la historia del clip, los agentes de IA no hicieron otra cosa que intentar ejecutar la instrucción que les dieron.
3 “[En] últimos meses, la empresa decidió reformar radicalmente el RSP. Esa decisión incluyó eliminar la promesa de no publicar modelos de IA si Anthropic no puede garantizar las adecuadas mitigaciones de riesgo con antelación. ‘Consideramos que en realidad no ayudaría a nadie dejar de entrenar modelos de IA’, dijo Jared Kaplan, director científico de Anthropic, a TIME. ‘Realmente no sentimos, con el rápido avance de la IA, que tendría sentido que hiciéramos compromisos unilaterales … si los competidores están avanzando con fuerza’.” https://time.com/7380854/exclusive-anthropic-drops-flagship-safety-pledge/
4 Un cargador de arranque es un pequeño programa que se ejecuta cuando un ordenador arranca. Su función es inicializar el sistema, realizar comprobaciones de hardware y cargar el sistema operativo en la memoria.
5 Marx, Capital, vol. 1, p. 548 (Ed. Penguin)
6 Marx, Grundrisse, p. 705 (Ed. Penguin)