{"id":69352,"date":"2026-09-20T17:38:52","date_gmt":"2026-09-20T17:38:52","guid":{"rendered":"https:\/\/overcentral.com\/es\/?p=69352"},"modified":"2026-09-20T17:38:52","modified_gmt":"2026-09-20T17:38:52","slug":"advertencias-ia-riesgo-existencial-69352","status":"publish","type":"post","link":"https:\/\/overcentral.com\/es\/advertencias-ia-riesgo-existencial-69352\/","title":{"rendered":"Las advertencias apocal\u00edpticas sobre IA alcanzan 20 a\u00f1os"},"content":{"rendered":"

\u201cUrge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad\u201d. Esta frase, que parece extra\u00edda de la carta que Dario Amodei public\u00f3 hace unos d\u00edas, fue pronunciada por Elon Musk en 2017, cuando ni ChatGPT, Claude ni ninguna de las IAs que hoy usamos exist\u00edan. La idea de que la inteligencia artificial se descontrole y acabe amenazando nuestra existencia no es nueva. Los creyentes del AI doom<\/em> llevan m\u00e1s de una d\u00e9cada lanzando advertencias que hoy llenan titulares, pero que antes pasaban desapercibidas. Ahora, en 2025<\/a>, cuando el debate sobre los riesgos existenciales de la IA ha alcanzado su punto \u00e1lgido, es crucial entender de d\u00f3nde viene este movimiento, c\u00f3mo ha evolucionado y qu\u00e9 hay detr\u00e1s de estas predicciones apocal\u00edpticas que llevan 20 a\u00f1os repiti\u00e9ndose.<\/p>\n

Los inicios del movimiento ‘doomer’: de MIRI a LessWrong<\/h2>\n

El movimiento por la seguridad de la IA naci\u00f3 mucho antes de que existieran Anthropic y OpenAI. Los primeros vestigios de estas ideas se remontan a la formaci\u00f3n del MIRI<\/a> (Machine Intelligence Research Institute) en el a\u00f1o 2000, aunque no fue hasta 2005 cuando la organizaci\u00f3n comenz\u00f3 a enfocarse en los riesgos existenciales que presentaba la inteligencia artificial. En 2009, uno de los cofundadores del MIRI, Eliezer Yudkowsky, ayud\u00f3 a formar LessWrong<\/a>, una comunidad online donde una de las grandes obsesiones era la amenaza de una singularidad tecnol\u00f3gica. En este espacio conviv\u00edan ideas del transhumanismo, un movimiento intelectual que plantea la mejora del ser humano mediante la tecnolog\u00eda, y el altruismo eficaz, una corriente que busca identificar, con herramientas cuantitativas, las formas m\u00e1s eficaces de generar el mayor bien posible en el mundo.<\/p>\n

De la confluencia de estas dos corrientes naci\u00f3 una visi\u00f3n muy concreta: la inteligencia artificial acabar\u00eda superando inevitablemente a los humanos y, si no se constru\u00eda aline\u00e1ndola con nuestros valores y objetivos, representar\u00eda una amenaza directa para la supervivencia de la humanidad. Esta premisa se convirti\u00f3 en el n\u00facleo del movimiento doomer<\/em> y ha sido repetida, con variaciones, durante las \u00faltimas dos d\u00e9cadas.<\/p>\n

El primer advenimiento del pesimismo: las \u00e9lites tecnol\u00f3gicas y las donaciones millonarias<\/h2>\n

Estas ideas no pasaron desapercibidas para las \u00e9lites tecnol\u00f3gicas. En paralelo al crecimiento de estas comunidades, grandes personalidades del sector comenzaron a donar millones de d\u00f3lares al movimiento. Fue el caso de Elon Musk, que en 2015 don\u00f3 10 millones de d\u00f3lares en becas para formar investigadores de IA que ayudaran a construir una tecnolog\u00eda segura para el ser humano. Ese mismo a\u00f1o, Musk firm\u00f3 un manifiesto junto a otras personalidades del mundo tecnol\u00f3gico y de la IA, como Demis Hassabis de DeepMind, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y el mism\u00edsimo Stephen Hawking. El manifiesto, publicado a trav\u00e9s del instituto Future of Life<\/a>, una organizaci\u00f3n sin \u00e1nimo de lucro que desde entonces advierte de los riesgos de la IA, ped\u00eda m\u00e1s investigaci\u00f3n para reforzar la seguridad y establec\u00eda que \u00abnuestros sistemas de inteligencia artificial deben hacer lo que nosotros queramos que hagan\u00bb.<\/p>\n

Bill Gates tambi\u00e9n se sum\u00f3 a la conversaci\u00f3n y mostr\u00f3 su preocupaci\u00f3n por la posible creaci\u00f3n de una superinteligencia. \u00abPrimero, las m\u00e1quinas har\u00e1n muchos trabajos por nosotros y no ser\u00e1n s\u00faper inteligentes. Eso deber\u00eda ser positivo si lo manejamos bien. Sin embargo, unas d\u00e9cadas despu\u00e9s, las inteligencias ser\u00e1n suficientemente fuertes para convertirse en una preocupaci\u00f3n\u00bb, declar\u00f3 en aquella \u00e9poca. Sin embargo, el discurso de estas personalidades era prudente y no destilaba la urgencia ni el catastrofismo que ver\u00edamos a\u00f1os despu\u00e9s. Las advertencias eran reales, pero el tono era mesurado.<\/p>\n

El catastrofismo post ChatGPT: 2023, el a\u00f1o de las cartas abiertas<\/h2>\n

El doomerismo<\/em> atraves\u00f3 una etapa relativamente tranquila en los a\u00f1os posteriores, pero en 2023 volvi\u00f3 con mucha m\u00e1s fuerza. El desarrollo de la IA estaba en plena ebullici\u00f3n y acababa de salir GPT-4. En marzo de ese a\u00f1o, se public\u00f3 una primera carta abierta a trav\u00e9s del Future of Life que ped\u00eda detener el entrenamiento de nuevos modelos durante al menos seis meses. La carta estaba firmada por personalidades como Steve Wozniak, Elon Musk, Jaan Tallinn y Max Tegmark. Unos meses despu\u00e9s, en mayo, se public\u00f3 una segunda carta a trav\u00e9s de la ONG Center for AI Safety, y aqu\u00ed apareci\u00f3 la palabra m\u00e1gica: extinci\u00f3n. La frase exacta era: \u00abMitigar el riesgo de extinci\u00f3n por la IA deber\u00eda ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear\u00bb. Entre los firmantes se encontraban Geoffrey Hinton, Dario Amodei, Demis Hassabis y, notablemente, Sam Altman, CEO de OpenAI.<\/p>\n

Geoffrey Hinton, premio Nobel de F\u00edsica, ha sido una de las voces m\u00e1s pesimistas y ha insistido repetidamente en los riesgos de una IA que supere a los humanos. Su cambio de postura, de ser un pionero en el campo a convertirse en un cr\u00edtico vocal, marc\u00f3 un punto de inflexi\u00f3n en el debate p\u00fablico. En 2025, Eliezer Yudkowsky y Nate Soares, fundador y actual presidente del MIRI respectivamente, publicaron el libro ‘If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All’ (Si alguien la construye, todos moriremos: por qu\u00e9 una IA sobrehumana nos matar\u00eda a todos). El t\u00edtulo no deja lugar a dudas y es una prueba de c\u00f3mo el discurso de este movimiento se ha vuelto cada vez m\u00e1s alarmista con el paso de los a\u00f1os.<\/p>\n

\u00bfQu\u00e9 es el Center for AI Safety y por qu\u00e9 es relevante?<\/h3>\n

El Center for AI Safety (CAIS) es una organizaci\u00f3n sin \u00e1nimo de lucro dedicada a la investigaci\u00f3n de la seguridad en inteligencia artificial. Se convirti\u00f3 en un actor central en 2023 al publicar la carta que por primera vez equiparaba el riesgo de extinci\u00f3n por IA con pandemias y guerras nucleares. Su papel ha sido clave para trasladar el debate desde c\u00edrculos acad\u00e9micos y comunidades online hasta la agenda p\u00fablica y pol\u00edtica global. La organizaci\u00f3n financia investigaciones y act\u00faa como un centro de coordinaci\u00f3n para cient\u00edficos y expertos que comparten la visi\u00f3n de que los riesgos existenciales de la IA requieren atenci\u00f3n prioritaria.<\/p>\n

Un 10% de probabilidades de que la IA acabe con la humanidad: la declaraci\u00f3n que encendi\u00f3 la pol\u00e9mica<\/h2>\n

No es la declaraci\u00f3n m\u00e1s extrema que hemos escuchado, pero es la que ha encendido la pol\u00e9mica m\u00e1s reciente. La frase la pronunci\u00f3 Evan Hubinger, actual jefe de alineamiento de Anthropic. Hablamos del responsable de la seguridad de uno de los dos laboratorios de IA que est\u00e1n desarrollando modelos de frontera. No es un exempleado despechado; actualmente trabaja en Anthropic, conoce los modelos y es quien se ocupa de que sean seguros. Su afirmaci\u00f3n de que existe un 10% de probabilidades de que la IA acabe con la humanidad ha generado un intenso debate, no solo por el n\u00famero en s\u00ed, sino por la credibilidad de la fuente.<\/p>\n

Lo que dice Hubinger es relevante, pero tambi\u00e9n lo es conocer su trayectoria. Cuando termin\u00f3 su formaci\u00f3n en matem\u00e1ticas e inform\u00e1tica, Evan Hubinger empez\u00f3 a trabajar en el MIRI, la cuna del movimiento doomer<\/em>. Despu\u00e9s entr\u00f3 en el Center for AI Safety, la ONG que public\u00f3 la carta de la extinci\u00f3n en 2023. Su carrera es un reflejo de c\u00f3mo las ideas de este movimiento han permeado las instituciones m\u00e1s influyentes del desarrollo de IA. No es que haya sesgo, sino que existe una red de personas e instituciones que comparten una misma cosmovisi\u00f3n sobre los riesgos existenciales.<\/p>\n

\u00bfDeber\u00edamos tomar en serio el 10% de probabilidad de extinci\u00f3n?<\/h3>\n

La cifra del 10% no es un dato emp\u00edrico, sino una estimaci\u00f3n subjetiva basada en modelos mentales y escenarios hipot\u00e9ticos. No proviene de un experimento controlado ni de un an\u00e1lisis estad\u00edstico de datos hist\u00f3ricos. Es, en esencia, una opini\u00f3n informada de un experto que ha dedicado su carrera a pensar en estos problemas. Tomarla como un hecho objetivo ser\u00eda un error, pero ignorarla tambi\u00e9n. Lo que revela es la profunda preocupaci\u00f3n que existe dentro de los propios laboratorios que construyen estas tecnolog\u00edas. La declaraci\u00f3n de Hubinger es un s\u00edntoma de una cultura interna que ha normalizado la discusi\u00f3n sobre el fin de la humanidad como un riesgo de negocio.<\/p>\n

Los verdaderos riesgos de la IA: m\u00e1s all\u00e1 de la extinci\u00f3n<\/h2>\n

Esto no significa que no existan riesgos y que todo sea una fantas\u00eda de un grupo de visionarios exagerados. Incidentes como el de OpenAI y Hugging Face han dejado claro que los modelos pueden causar da\u00f1os y que alinearlos con nuestros objetivos es crucial. Hoy las cosas han cambiado mucho: los modelos de IA ya no son el futuro, sino el presente. Con la automejora recursiva, donde los modelos de IA ayudan a dise\u00f1ar y mejorar otros modelos, los riesgos pueden multiplicarse exponencialmente. Sin embargo, de ah\u00ed a hablar de extinci\u00f3n en menos de 10 a\u00f1os hay un trecho considerable.<\/p>\n

Este grupo lleva m\u00e1s de una d\u00e9cada repitiendo las mismas consignas: una inteligencia artificial que inevitablemente superar\u00e1 al ser humano, un riesgo existencial que exige acci\u00f3n inmediata y un peque\u00f1o grupo que asegura tener un plan para evitar el apocalipsis. Al final, este tipo de mensajes apocal\u00edpticos atraen mucha atenci\u00f3n, pero a la vez desv\u00edan la atenci\u00f3n de los verdaderos riesgos inmediatos: el sesgo algor\u00edtmico, la desinformaci\u00f3n a escala, el desplazamiento laboral masivo, el uso de IA para<\/a> desarrollar armas biol\u00f3gicas o ciberataques, y la concentraci\u00f3n de poder en unas pocas corporaciones.<\/p>\n

El legado de 20 a\u00f1os de advertencias: \u00bfprofec\u00eda autocumplida o distracci\u00f3n?<\/h2>\n

El movimiento doomer<\/em> ha conseguido algo que parec\u00eda imposible hace dos d\u00e9cadas: poner el riesgo existencial de la IA en el centro del debate p\u00fablico y pol\u00edtico. Hoy, gobiernos de todo el mundo, desde Estados Unidos<\/a> hasta la Uni\u00f3n Europea, discuten regulaciones que incorporan conceptos como \u00abriesgo catastr\u00f3fico\u00bb y \u00absuperinteligencia\u00bb. Empresas como OpenAI y Anthropic tienen equipos enteros dedicados a la \u00abseguridad\u00bb y al \u00abalineamiento\u00bb, t\u00e9rminos que directamente heredan de las comunidades de LessWrong y MIRI.<\/p>\n

Sin embargo, el \u00e9xito de este movimiento tambi\u00e9n plantea preguntas inc\u00f3modas. Al centrar el debate en un futuro apocal\u00edptico hipot\u00e9tico, se corre el riesgo de relegar a un segundo plano los problemas actuales y perfectamente documentados que ya causan da\u00f1o. La atenci\u00f3n medi\u00e1tica y los recursos financieros que se destinan a prevenir una extinci\u00f3n futura podr\u00edan estar desvi\u00e1ndose de la regulaci\u00f3n de los impactos concretos que la IA ya tiene hoy en d\u00eda.<\/p>\n

Llevan 20 a\u00f1os repitiendo las mismas consignas: una IA que superar\u00e1 al ser humano, un riesgo existencial que exige acci\u00f3n inmediata y un peque\u00f1o grupo que asegura tener un plan para evitar el apocalipsis. La pregunta que debemos hacernos no es si tienen raz\u00f3n o no, sino qu\u00e9 consecuencias tiene para el desarrollo de la tecnolog\u00eda y para la sociedad que este discurso haya ocupado el centro del escenario durante tanto tiempo. La respuesta a esa pregunta definir\u00e1 c\u00f3mo gobernamos la inteligencia artificial en las pr\u00f3ximas d\u00e9cadas, tanto en Espa\u00f1a, como en Am\u00e9rica Latina y el resto del mundo.<\/p>\n","protected":false},"excerpt":{"rendered":"

\u201cUrge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad\u201d. Esta frase, que parece extra\u00edda de la carta que Dario Amodei public\u00f3 hace unos d\u00edas, fue pronunciada por Elon Musk en 2017, cuando ni ChatGPT, Claude ni ninguna de las IAs que hoy usamos exist\u00edan. La idea de que […]<\/p>\n","protected":false},"author":2,"featured_media":69361,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/cards.overcentral.com\/cards\/es\/69352.png","fifu_image_alt":"Las advertencias apocal\u00edpticas sobre IA alcanzan 20 a\u00f1os","footnotes":""},"categories":[5],"tags":[],"class_list":["post-69352","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia"],"fifu_image_url":"https:\/\/cards.overcentral.com\/cards\/es\/69352.png","fifu_image_alt":"Las advertencias apocal\u00edpticas sobre IA alcanzan 20 a\u00f1os","_links":{"self":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts\/69352","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/comments?post=69352"}],"version-history":[{"count":2,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts\/69352\/revisions"}],"predecessor-version":[{"id":69354,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts\/69352\/revisions\/69354"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/media\/69361"}],"wp:attachment":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/media?parent=69352"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/categories?post=69352"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/tags?post=69352"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}