“Urge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad”. Esta frase, que parece extraída de la carta que Dario Amodei publicó hace unos días, fue pronunciada por Elon Musk en 2017, cuando ni ChatGPT, Claude ni ninguna de las IAs que hoy usamos existían. La idea de que la inteligencia artificial se descontrole y acabe amenazando nuestra existencia no es nueva. Los creyentes del AI doom llevan más de una década lanzando advertencias que hoy llenan titulares, pero que antes pasaban desapercibidas. Ahora, en 2025, cuando el debate sobre los riesgos existenciales de la IA ha alcanzado su punto álgido, es crucial entender de dónde viene este movimiento, cómo ha evolucionado y qué hay detrás de estas predicciones apocalípticas que llevan 20 años repitiéndose.
Los inicios del movimiento ‘doomer’: de MIRI a LessWrong
El movimiento por la seguridad de la IA nació mucho antes de que existieran Anthropic y OpenAI. Los primeros vestigios de estas ideas se remontan a la formación del MIRI (Machine Intelligence Research Institute) en el año 2000, aunque no fue hasta 2005 cuando la organización comenzó a enfocarse en los riesgos existenciales que presentaba la inteligencia artificial. En 2009, uno de los cofundadores del MIRI, Eliezer Yudkowsky, ayudó a formar LessWrong, una comunidad online donde una de las grandes obsesiones era la amenaza de una singularidad tecnológica. En este espacio convivían ideas del transhumanismo, un movimiento intelectual que plantea la mejora del ser humano mediante la tecnología, y el altruismo eficaz, una corriente que busca identificar, con herramientas cuantitativas, las formas más eficaces de generar el mayor bien posible en el mundo.
De la confluencia de estas dos corrientes nació una visión muy concreta: la inteligencia artificial acabaría superando inevitablemente a los humanos y, si no se construía alineándola con nuestros valores y objetivos, representaría una amenaza directa para la supervivencia de la humanidad. Esta premisa se convirtió en el núcleo del movimiento doomer y ha sido repetida, con variaciones, durante las últimas dos décadas.
El primer advenimiento del pesimismo: las élites tecnológicas y las donaciones millonarias
Estas ideas no pasaron desapercibidas para las élites tecnológicas. En paralelo al crecimiento de estas comunidades, grandes personalidades del sector comenzaron a donar millones de dólares al movimiento. Fue el caso de Elon Musk, que en 2015 donó 10 millones de dólares en becas para formar investigadores de IA que ayudaran a construir una tecnología segura para el ser humano. Ese mismo año, Musk firmó un manifiesto junto a otras personalidades del mundo tecnológico y de la IA, como Demis Hassabis de DeepMind, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y el mismísimo Stephen Hawking. El manifiesto, publicado a través del instituto Future of Life, una organización sin ánimo de lucro que desde entonces advierte de los riesgos de la IA, pedía más investigación para reforzar la seguridad y establecía que «nuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan».
Bill Gates también se sumó a la conversación y mostró su preocupación por la posible creación de una superinteligencia. «Primero, las máquinas harán muchos trabajos por nosotros y no serán súper inteligentes. Eso debería ser positivo si lo manejamos bien. Sin embargo, unas décadas después, las inteligencias serán suficientemente fuertes para convertirse en una preocupación», declaró en aquella época. Sin embargo, el discurso de estas personalidades era prudente y no destilaba la urgencia ni el catastrofismo que veríamos años después. Las advertencias eran reales, pero el tono era mesurado.
El catastrofismo post ChatGPT: 2023, el año de las cartas abiertas
El doomerismo atravesó una etapa relativamente tranquila en los años posteriores, pero en 2023 volvió con mucha más fuerza. El desarrollo de la IA estaba en plena ebullición y acababa de salir GPT-4. En marzo de ese año, se publicó una primera carta abierta a través del Future of Life que pedía detener el entrenamiento de nuevos modelos durante al menos seis meses. La carta estaba firmada por personalidades como Steve Wozniak, Elon Musk, Jaan Tallinn y Max Tegmark. Unos meses después, en mayo, se publicó una segunda carta a través de la ONG Center for AI Safety, y aquí apareció la palabra mágica: extinción. La frase exacta era: «Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear». Entre los firmantes se encontraban Geoffrey Hinton, Dario Amodei, Demis Hassabis y, notablemente, Sam Altman, CEO de OpenAI.
Geoffrey Hinton, premio Nobel de Física, ha sido una de las voces más pesimistas y ha insistido repetidamente en los riesgos de una IA que supere a los humanos. Su cambio de postura, de ser un pionero en el campo a convertirse en un crítico vocal, marcó un punto de inflexión en el debate público. En 2025, Eliezer Yudkowsky y Nate Soares, fundador y actual presidente del MIRI respectivamente, publicaron el libro ‘If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All’ (Si alguien la construye, todos moriremos: por qué una IA sobrehumana nos mataría a todos). El título no deja lugar a dudas y es una prueba de cómo el discurso de este movimiento se ha vuelto cada vez más alarmista con el paso de los años.
¿Qué es el Center for AI Safety y por qué es relevante?
El Center for AI Safety (CAIS) es una organización sin ánimo de lucro dedicada a la investigación de la seguridad en inteligencia artificial. Se convirtió en un actor central en 2023 al publicar la carta que por primera vez equiparaba el riesgo de extinción por IA con pandemias y guerras nucleares. Su papel ha sido clave para trasladar el debate desde círculos académicos y comunidades online hasta la agenda pública y política global. La organización financia investigaciones y actúa como un centro de coordinación para científicos y expertos que comparten la visión de que los riesgos existenciales de la IA requieren atención prioritaria.
Un 10% de probabilidades de que la IA acabe con la humanidad: la declaración que encendió la polémica
No es la declaración más extrema que hemos escuchado, pero es la que ha encendido la polémica más reciente. La frase la pronunció Evan Hubinger, actual jefe de alineamiento de Anthropic. Hablamos del responsable de la seguridad de uno de los dos laboratorios de IA que están desarrollando modelos de frontera. No es un exempleado despechado; actualmente trabaja en Anthropic, conoce los modelos y es quien se ocupa de que sean seguros. Su afirmación de que existe un 10% de probabilidades de que la IA acabe con la humanidad ha generado un intenso debate, no solo por el número en sí, sino por la credibilidad de la fuente.
Lo que dice Hubinger es relevante, pero también lo es conocer su trayectoria. Cuando terminó su formación en matemáticas e informática, Evan Hubinger empezó a trabajar en el MIRI, la cuna del movimiento doomer. Después entró en el Center for AI Safety, la ONG que publicó la carta de la extinción en 2023. Su carrera es un reflejo de cómo las ideas de este movimiento han permeado las instituciones más influyentes del desarrollo de IA. No es que haya sesgo, sino que existe una red de personas e instituciones que comparten una misma cosmovisión sobre los riesgos existenciales.
¿Deberíamos tomar en serio el 10% de probabilidad de extinción?
La cifra del 10% no es un dato empírico, sino una estimación subjetiva basada en modelos mentales y escenarios hipotéticos. No proviene de un experimento controlado ni de un análisis estadístico de datos históricos. Es, en esencia, una opinión informada de un experto que ha dedicado su carrera a pensar en estos problemas. Tomarla como un hecho objetivo sería un error, pero ignorarla también. Lo que revela es la profunda preocupación que existe dentro de los propios laboratorios que construyen estas tecnologías. La declaración de Hubinger es un síntoma de una cultura interna que ha normalizado la discusión sobre el fin de la humanidad como un riesgo de negocio.
Los verdaderos riesgos de la IA: más allá de la extinción
Esto no significa que no existan riesgos y que todo sea una fantasía de un grupo de visionarios exagerados. Incidentes como el de OpenAI y Hugging Face han dejado claro que los modelos pueden causar daños y que alinearlos con nuestros objetivos es crucial. Hoy las cosas han cambiado mucho: los modelos de IA ya no son el futuro, sino el presente. Con la automejora recursiva, donde los modelos de IA ayudan a diseñar y mejorar otros modelos, los riesgos pueden multiplicarse exponencialmente. Sin embargo, de ahí a hablar de extinción en menos de 10 años hay un trecho considerable.
Este grupo lleva más de una década repitiendo las mismas consignas: una inteligencia artificial que inevitablemente superará al ser humano, un riesgo existencial que exige acción inmediata y un pequeño grupo que asegura tener un plan para evitar el apocalipsis. Al final, este tipo de mensajes apocalípticos atraen mucha atención, pero a la vez desvían la atención de los verdaderos riesgos inmediatos: el sesgo algorítmico, la desinformación a escala, el desplazamiento laboral masivo, el uso de IA para desarrollar armas biológicas o ciberataques, y la concentración de poder en unas pocas corporaciones.
El legado de 20 años de advertencias: ¿profecía autocumplida o distracción?
El movimiento doomer ha conseguido algo que parecía imposible hace dos décadas: poner el riesgo existencial de la IA en el centro del debate público y político. Hoy, gobiernos de todo el mundo, desde Estados Unidos hasta la Unión Europea, discuten regulaciones que incorporan conceptos como «riesgo catastrófico» y «superinteligencia». Empresas como OpenAI y Anthropic tienen equipos enteros dedicados a la «seguridad» y al «alineamiento», términos que directamente heredan de las comunidades de LessWrong y MIRI.
Sin embargo, el éxito de este movimiento también plantea preguntas incómodas. Al centrar el debate en un futuro apocalíptico hipotético, se corre el riesgo de relegar a un segundo plano los problemas actuales y perfectamente documentados que ya causan daño. La atención mediática y los recursos financieros que se destinan a prevenir una extinción futura podrían estar desviándose de la regulación de los impactos concretos que la IA ya tiene hoy en día.
Llevan 20 años repitiendo las mismas consignas: una IA que superará al ser humano, un riesgo existencial que exige acción inmediata y un pequeño grupo que asegura tener un plan para evitar el apocalipsis. La pregunta que debemos hacernos no es si tienen razón o no, sino qué consecuencias tiene para el desarrollo de la tecnología y para la sociedad que este discurso haya ocupado el centro del escenario durante tanto tiempo. La respuesta a esa pregunta definirá cómo gobernamos la inteligencia artificial en las próximas décadas, tanto en España, como en América Latina y el resto del mundo.
