{"id":67050,"date":"2026-08-27T17:31:22","date_gmt":"2026-08-27T17:31:22","guid":{"rendered":"https:\/\/overcentral.com\/es\/?p=67050"},"modified":"2026-08-27T17:31:22","modified_gmt":"2026-08-27T17:31:22","slug":"chatbots-ia-salud-errores-medicos-67050","status":"publish","type":"post","link":"https:\/\/overcentral.com\/es\/chatbots-ia-salud-errores-medicos-67050\/","title":{"rendered":"Chatbots de IA para salud revelan errores m\u00e9dicos y riesgos de datos"},"content":{"rendered":"

Los chatbots de inteligencia artificial se han convertido en una herramienta cotidiana para millones de personas que buscan respuestas r\u00e1pidas sobre su salud, pero la evidencia m\u00e1s reciente revela que esta pr\u00e1ctica conlleva errores m\u00e9dicos potencialmente graves y una exposici\u00f3n de datos personales que muchos usuarios no anticipan. Un estudio de la Universidad de Oxford<\/a> publicado en Nature Medicine<\/a><\/em> en febrero de 2026 demostr\u00f3 que los grandes modelos de lenguaje (LLM) ofrecen respuestas inconsistentes ante preguntas cl\u00ednicas ligeramente diferentes, y que los pacientes son incapaces de distinguir entre consejos acertados y recomendaciones peligrosas. A esto se suman riesgos de privacidad que van desde el uso no autorizado de datos para entrenamiento hasta la exposici\u00f3n de informaci\u00f3n sanitaria en filtraciones masivas, un escenario que ya ha generado p\u00e9rdidas estimadas en 21.000 millones de d\u00f3lares en Estados Unidos<\/a> seg\u00fan declaraciones de legisladores estadounidenses.<\/p>\n

El auge de los asistentes de salud basados en inteligencia artificial<\/h2>\n

Grandes empresas tecnol\u00f3gicas han apostado fuerte por la salud digital con lanzamientos como Copilot Health de Microsoft, ChatGPT Health de OpenAI y HealthAI de Amazon, servicios dise\u00f1ados para ayudar a los usuarios a interpretar historiales m\u00e9dicos, preguntar sobre s\u00edntomas, resultados de laboratorio y opciones de tratamiento. La popularidad de estas herramientas no es casual: seg\u00fan datos de Microsoft, la salud es el tema m\u00e1s comentado entre los usuarios de dispositivos m\u00f3viles, y los chatbots est\u00e1n disponibles las veinticuatro horas del d\u00eda con respuestas que transmiten una seguridad que tranquiliza a los pacientes m\u00e1s nerviosos.<\/p>\n

En un contexto donde los sistemas sanitarios p\u00fablicos y privados enfrentan una presi\u00f3n creciente, muchas personas optan por autodiagnosticarse con ayuda de la inteligencia artificial antes de decidir si acuden al m\u00e9dico. El tiempo, el esfuerzo y el posible costo de navegar por un sistema de salud complejo hacen que esta opci\u00f3n resulte atractiva. Sin embargo, la conveniencia esconde peligros que la comunidad cient\u00edfica y las organizaciones de seguridad del paciente comienzan a documentar con claridad.<\/p>\n

La organizaci\u00f3n estadounidense ECRI<\/a>, dedicada a la seguridad del paciente, ha clasificado el uso inadecuado de los chatbots de inteligencia artificial como el principal peligro tecnol\u00f3gico en el \u00e1mbito sanitario. Esta advertencia no se limita a la posibilidad de recibir consejos equivocados, sino que abarca la dimensi\u00f3n de privacidad y protecci\u00f3n de datos, un aspecto que los usuarios suelen pasar por alto al interactuar con estas herramientas.<\/p>\n

Errores m\u00e9dicos y alucinaciones: lo que revela el estudio de Oxford en Nature Medicine<\/h2>\n

El estudio liderado por la doctora Rebecca Payne, m\u00e9dico de atenci\u00f3n primaria en la Universidad de Oxford, analiz\u00f3 en profundidad el comportamiento de los grandes modelos de lenguaje cuando se les plantean preguntas sobre salud. Los resultados, publicados en la revista Nature Medicine<\/em>, son contundentes: los usuarios a menudo no saben qu\u00e9 informaci\u00f3n deben compartir con el modelo, y los LLM proporcionan respuestas muy diferentes incluso cuando las preguntas formuladas var\u00edan solo ligeramente. Adem\u00e1s, los modelos ofrecen simult\u00e1neamente consejos buenos y malos, pero los pacientes no logran diferenciar entre unos y otros.<\/p>\n

\u00abA pesar de todo el bombo medi\u00e1tico, la inteligencia artificial simplemente no est\u00e1 preparada para asumir el papel del m\u00e9dico\u00bb, advirti\u00f3 la doctora Payne. \u00abLos pacientes deben ser conscientes de que preguntar a un modelo de lenguaje grande sobre sus s\u00edntomas puede ser peligroso, dando diagn\u00f3sticos err\u00f3neos y no reconociendo cu\u00e1ndo se necesita ayuda urgente\u00bb.<\/p>\n

Este fen\u00f3meno, conocido como alucinaci\u00f3n en el contexto de la inteligencia artificial generativa, ocurre cuando el modelo genera informaci\u00f3n que parece veros\u00edmil pero que es factualmente incorrecta o inventada. En el \u00e1mbito m\u00e9dico, una alucinaci\u00f3n puede llevar a un paciente a ignorar s\u00edntomas de un infarto, a automedicarse con f\u00e1rmacos contraindicados o a retrasar la atenci\u00f3n de una enfermedad que progresa r\u00e1pidamente. El estudio de Oxford no es un caso aislado: m\u00faltiples investigaciones han documentado c\u00f3mo los LLM pueden producir recomendaciones cl\u00ednicas que, aunque suenan autoritarias, carecen de fundamento cient\u00edfico.<\/p>\n

La inconsistencia como caracter\u00edstica estructural de los LLM<\/h3>\n

Una de las conclusiones m\u00e1s preocupantes del estudio es que los modelos ofrecen respuestas radicalmente distintas ante variaciones m\u00ednimas en la formulaci\u00f3n de una misma pregunta. Esto significa que un paciente que reformula ligeramente su consulta puede recibir un consejo completamente diferente, lo que introduce un nivel de aleatoriedad inaceptable cuando se trata de decisiones de salud. La doctora Payne y su equipo subrayan que esta inconsistencia no es un error puntual, sino una caracter\u00edstica inherente al funcionamiento de los grandes modelos de lenguaje, que carecen de una comprensi\u00f3n real del contexto cl\u00ednico y operan mediante la predicci\u00f3n estad\u00edstica de secuencias de palabras.<\/p>\n

El estudio tambi\u00e9n evidenci\u00f3 que los usuarios tienden a confiar en las respuestas de los chatbots porque est\u00e1n formuladas con un tono seguro y detallado, independientemente de su exactitud. Esta confianza mal colocada puede tener consecuencias graves, especialmente en poblaciones vulnerables o con acceso limitado a atenci\u00f3n m\u00e9dica profesional.<\/p>\n

Riesgos de privacidad: datos sensibles en manos equivocadas<\/h2>\n

M\u00e1s all\u00e1 de la precisi\u00f3n cl\u00ednica, existe una dimensi\u00f3n igualmente cr\u00edtica que los usuarios deben considerar antes de compartir informaci\u00f3n con un chatbot de salud: la privacidad y la seguridad de sus datos. La informaci\u00f3n m\u00e9dica es extraordinariamente sensible, y una vez que se comparte con una herramienta de inteligencia artificial, puede circular por una cadena de intermediarios que escapan al control del paciente.<\/p>\n

Compartir datos sanitarios con un chatbot p\u00fablico puede implicar que esa informaci\u00f3n se utilice para entrenar el modelo y, por tanto, pueda ser regurgitada a otros usuarios. Incluso de forma no intencionada, se han documentado casos en los que los modelos exponen accidentalmente datos introducidos por sus usuarios, seg\u00fan report\u00f3 la BBC. Algunos proveedores utilizan los datos para mejorar sus modelos a menos que el usuario opte expl\u00edcitamente por no hacerlo, mientras que otros prometen no usar informaci\u00f3n m\u00e9dica para entrenamiento. Sin embargo, el entrenamiento es solo una parte del rompecabezas de la privacidad.<\/p>\n

Los servicios pueden compartir datos con terceros sin que los usuarios sean plenamente conscientes. La informaci\u00f3n personal de salud puede terminar en manos de un agregador de datos, una empresa intermediaria que se sit\u00faa entre el proveedor del modelo y el sistema sanitario del paciente. Tambi\u00e9n puede compartirse con anunciantes, ya sea directamente o a trav\u00e9s de estos agregadores, aunque por lo general se anonimiza antes de su uso. No obstante, la anonimizaci\u00f3n no elimina por completo todos los riesgos, y la naturaleza excepcionalmente sensible de los datos de salud hace que cualquier exposici\u00f3n sea preocupante.<\/p>\n

El peligro de las brechas de datos y el fraude de identidad m\u00e9dica<\/h3>\n

El problema se agrava cuando los datos sensibles atraviesan m\u00faltiples organizaciones, porque aumenta la probabilidad de que sean expuestos a ciberdelincuentes. Legisladores estadounidenses han identificado p\u00e9rdidas por valor de 21.000 millones de d\u00f3lares vinculadas a un pu\u00f1ado de filtraciones en empresas de corretaje de datos. Los datos de salud son especialmente lucrativos para los defraudadores por varias razones: mantienen su valor durante largos per\u00edodos de tiempo, ya que no pueden reemplazarse ni reemitirse como un n\u00famero de tarjeta de cr\u00e9dito; pueden incluir informaci\u00f3n de seguros con la que presentar reclamaciones falsas o recibir servicios m\u00e9dicos a nombre de la v\u00edctima; y pueden utilizarse para chantajear al titular.<\/p>\n

Cuantas m\u00e1s empresas poseen estos datos, m\u00e1s oportunidades tienen los hackers de comprometerlas y robarlos. El desaf\u00edo es que la mayor\u00eda de las herramientas de inteligencia artificial para la salud no est\u00e1n reguladas por la normativa HIPAA en Estados Unidos, porque se clasifican como servicios de consumo y no como servicios de nivel empresarial. Esto significa que los proveedores pueden no estar sujetos al estricto r\u00e9gimen de protecci\u00f3n de datos que un paciente esperar\u00eda de un profesional o una instituci\u00f3n sanitaria. En Espa\u00f1a y Am\u00e9rica Latina, la situaci\u00f3n es similar: la mayor\u00eda de estos chatbots operan bajo t\u00e9rminos de servicio gen\u00e9ricos que no garantizan el mismo nivel de confidencialidad que la legislaci\u00f3n sanitaria local.<\/p>\n

C\u00f3mo protegerse al usar chatbots de inteligencia artificial para consultas de salud<\/h2>\n

Frente a este panorama, los usuarios pueden adoptar medidas concretas para minimizar su exposici\u00f3n a los riesgos. La primera recomendaci\u00f3n es evitar los chatbots de prop\u00f3sito general y optar por aquellos dise\u00f1ados espec\u00edficamente para responder preguntas relacionadas con la salud. Antes de usar cualquier servicio, es fundamental revisar c\u00f3mo explica la herramienta el manejo de los datos: si utiliza las consultas para entrenamiento, si comparte informaci\u00f3n con terceros y si est\u00e1 cubierta por HIPAA o un r\u00e9gimen de privacidad equivalente en el pa\u00eds del usuario.<\/p>\n

No se debe confiar ciegamente en las respuestas del chatbot a menos que incluya enlaces de citas que permitan verificar la informaci\u00f3n. E incluso con citas, es recomendable contrastar siempre con un profesional m\u00e9dico o con sitios web oficiales como el NHS en Reino Unido, MedlinePlus en Estados Unidos o los equivalentes en Espa\u00f1a y Am\u00e9rica Latina. Un chatbot puede ser \u00fatil para preparar preguntas para el m\u00e9dico o para entender un t\u00e9rmino m\u00e9dico desconocido, pero nunca debe sustituir una consulta profesional.<\/p>\n

Para proteger la privacidad, los expertos recomiendan seguir estas pautas:<\/p>\n

    \n
  • Nunca compartir ni subir documentos m\u00e9dicos, resultados de laboratorio u otros documentos sensibles a una herramienta de inteligencia artificial a menos que se comprenda exactamente c\u00f3mo maneja esos datos.<\/li>\n
  • Evitar introducir nombres, direcciones, datos de seguros, n\u00fameros de paciente u otros identificadores personales.<\/li>\n
  • Asegurarse de que las funciones de entrenamiento e historial de chat est\u00e9n desactivadas en la configuraci\u00f3n de la herramienta.<\/li>\n
  • Compartir \u00fanicamente la informaci\u00f3n m\u00ednima necesaria para la tarea que se desea realizar.<\/li>\n
  • Asumir que todo lo que se escribe podr\u00eda ser retenido o expuesto, y ajustar las consultas en consecuencia.<\/li>\n<\/ul>\n

    Es importante recordar que los datos de salud no son como un n\u00famero de tarjeta de cr\u00e9dito que puede congelarse mientras se reemplazan y reexpiden los detalles. Son datos que acompa\u00f1an a la persona durante toda su vida, y una vez compartidos con una herramienta de inteligencia artificial, pueden convertirse en un registro digital permanente.<\/p>\n

    El equilibrio entre utilidad y precauci\u00f3n en la era de la salud aumentada<\/h2>\n

    Los chatbots de inteligencia artificial generativa ofrecen un valor innegable como herramientas de apoyo para quienes buscan informaci\u00f3n preliminar sobre su salud o necesitan ayuda para formular preguntas m\u00e1s precisas antes de una consulta m\u00e9dica. Sin embargo, existe una diferencia fundamental entre usar la inteligencia artificial para prepararse para una atenci\u00f3n sanitaria y utilizarla como sustituto de esa atenci\u00f3n. Un estudio publicado en Nature Medicine<\/em> por la Universidad de Oxford demuestra que, hoy por hoy, los grandes modelos de lenguaje no est\u00e1n preparados para diagnosticar ni para evaluar la urgencia de los s\u00edntomas, y que los pacientes no cuentan con las herramientas cognitivas necesarias para filtrar la informaci\u00f3n err\u00f3nea que estos sistemas generan.<\/p>\n

    La presi\u00f3n sobre los sistemas sanitarios, el atractivo de la inmediatez y la confianza que inspiran las respuestas firmes de los chatbots seguir\u00e1n impulsando su uso para consultas de salud. Pero los riesgos documentados \u2014desde diagn\u00f3sticos err\u00f3neos hasta la exposici\u00f3n de datos personales a redes de fraude\u2014 exigen que los usuarios adopten una postura informada y cautelosa. La tecnolog\u00eda avanza, pero la prudencia sigue siendo la mejor aliada del paciente en un entorno digital donde la l\u00ednea entre la ayuda y el peligro es m\u00e1s delgada de lo que parece.<\/p>\n","protected":false},"excerpt":{"rendered":"

    Los chatbots de inteligencia artificial se han convertido en una herramienta cotidiana para millones de personas que buscan respuestas r\u00e1pidas sobre su salud, pero la evidencia m\u00e1s reciente revela que esta pr\u00e1ctica conlleva errores m\u00e9dicos potencialmente graves y una exposici\u00f3n de datos personales que muchos usuarios no anticipan. Un estudio de la Universidad de Oxford […]<\/p>\n","protected":false},"author":2,"featured_media":67053,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/pub-4d4fc17555de4152be07eaf2a416a31e.r2.dev\/es\/ocie_1787851907412.jpg","fifu_image_alt":"Chatbots de IA para salud revelan errores m\u00e9dicos y riesgos de datos","footnotes":""},"categories":[5],"tags":[],"class_list":["post-67050","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia"],"fifu_image_url":"https:\/\/pub-4d4fc17555de4152be07eaf2a416a31e.r2.dev\/es\/ocie_1787851907412.jpg","fifu_image_alt":"Chatbots de IA para salud revelan errores m\u00e9dicos y riesgos de datos","_links":{"self":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts\/67050","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/comments?post=67050"}],"version-history":[{"count":1,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts\/67050\/revisions"}],"predecessor-version":[{"id":67051,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/posts\/67050\/revisions\/67051"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/media\/67053"}],"wp:attachment":[{"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/media?parent=67050"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/categories?post=67050"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/overcentral.com\/es\/wp-json\/wp\/v2\/tags?post=67050"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}