Los chatbots de inteligencia artificial se han convertido en una herramienta cotidiana para millones de personas que buscan respuestas rápidas sobre su salud, pero la evidencia más reciente revela que esta práctica conlleva errores médicos potencialmente graves y una exposición de datos personales que muchos usuarios no anticipan. Un estudio de la Universidad de Oxford publicado en Nature Medicine en febrero de 2026 demostró que los grandes modelos de lenguaje (LLM) ofrecen respuestas inconsistentes ante preguntas clínicas ligeramente diferentes, y que los pacientes son incapaces de distinguir entre consejos acertados y recomendaciones peligrosas. A esto se suman riesgos de privacidad que van desde el uso no autorizado de datos para entrenamiento hasta la exposición de información sanitaria en filtraciones masivas, un escenario que ya ha generado pérdidas estimadas en 21.000 millones de dólares en Estados Unidos según declaraciones de legisladores estadounidenses.
El auge de los asistentes de salud basados en inteligencia artificial
Grandes empresas tecnológicas han apostado fuerte por la salud digital con lanzamientos como Copilot Health de Microsoft, ChatGPT Health de OpenAI y HealthAI de Amazon, servicios diseñados para ayudar a los usuarios a interpretar historiales médicos, preguntar sobre síntomas, resultados de laboratorio y opciones de tratamiento. La popularidad de estas herramientas no es casual: según datos de Microsoft, la salud es el tema más comentado entre los usuarios de dispositivos móviles, y los chatbots están disponibles las veinticuatro horas del día con respuestas que transmiten una seguridad que tranquiliza a los pacientes más nerviosos.
En un contexto donde los sistemas sanitarios públicos y privados enfrentan una presión creciente, muchas personas optan por autodiagnosticarse con ayuda de la inteligencia artificial antes de decidir si acuden al médico. El tiempo, el esfuerzo y el posible costo de navegar por un sistema de salud complejo hacen que esta opción resulte atractiva. Sin embargo, la conveniencia esconde peligros que la comunidad científica y las organizaciones de seguridad del paciente comienzan a documentar con claridad.
La organización estadounidense ECRI, dedicada a la seguridad del paciente, ha clasificado el uso inadecuado de los chatbots de inteligencia artificial como el principal peligro tecnológico en el ámbito sanitario. Esta advertencia no se limita a la posibilidad de recibir consejos equivocados, sino que abarca la dimensión de privacidad y protección de datos, un aspecto que los usuarios suelen pasar por alto al interactuar con estas herramientas.
Errores médicos y alucinaciones: lo que revela el estudio de Oxford en Nature Medicine
El estudio liderado por la doctora Rebecca Payne, médico de atención primaria en la Universidad de Oxford, analizó en profundidad el comportamiento de los grandes modelos de lenguaje cuando se les plantean preguntas sobre salud. Los resultados, publicados en la revista Nature Medicine, son contundentes: los usuarios a menudo no saben qué información deben compartir con el modelo, y los LLM proporcionan respuestas muy diferentes incluso cuando las preguntas formuladas varían solo ligeramente. Además, los modelos ofrecen simultáneamente consejos buenos y malos, pero los pacientes no logran diferenciar entre unos y otros.
«A pesar de todo el bombo mediático, la inteligencia artificial simplemente no está preparada para asumir el papel del médico», advirtió la doctora Payne. «Los pacientes deben ser conscientes de que preguntar a un modelo de lenguaje grande sobre sus síntomas puede ser peligroso, dando diagnósticos erróneos y no reconociendo cuándo se necesita ayuda urgente».
Este fenómeno, conocido como alucinación en el contexto de la inteligencia artificial generativa, ocurre cuando el modelo genera información que parece verosímil pero que es factualmente incorrecta o inventada. En el ámbito médico, una alucinación puede llevar a un paciente a ignorar síntomas de un infarto, a automedicarse con fármacos contraindicados o a retrasar la atención de una enfermedad que progresa rápidamente. El estudio de Oxford no es un caso aislado: múltiples investigaciones han documentado cómo los LLM pueden producir recomendaciones clínicas que, aunque suenan autoritarias, carecen de fundamento científico.
La inconsistencia como característica estructural de los LLM
Una de las conclusiones más preocupantes del estudio es que los modelos ofrecen respuestas radicalmente distintas ante variaciones mínimas en la formulación de una misma pregunta. Esto significa que un paciente que reformula ligeramente su consulta puede recibir un consejo completamente diferente, lo que introduce un nivel de aleatoriedad inaceptable cuando se trata de decisiones de salud. La doctora Payne y su equipo subrayan que esta inconsistencia no es un error puntual, sino una característica inherente al funcionamiento de los grandes modelos de lenguaje, que carecen de una comprensión real del contexto clínico y operan mediante la predicción estadística de secuencias de palabras.
El estudio también evidenció que los usuarios tienden a confiar en las respuestas de los chatbots porque están formuladas con un tono seguro y detallado, independientemente de su exactitud. Esta confianza mal colocada puede tener consecuencias graves, especialmente en poblaciones vulnerables o con acceso limitado a atención médica profesional.
Riesgos de privacidad: datos sensibles en manos equivocadas
Más allá de la precisión clínica, existe una dimensión igualmente crítica que los usuarios deben considerar antes de compartir información con un chatbot de salud: la privacidad y la seguridad de sus datos. La información médica es extraordinariamente sensible, y una vez que se comparte con una herramienta de inteligencia artificial, puede circular por una cadena de intermediarios que escapan al control del paciente.
Compartir datos sanitarios con un chatbot público puede implicar que esa información se utilice para entrenar el modelo y, por tanto, pueda ser regurgitada a otros usuarios. Incluso de forma no intencionada, se han documentado casos en los que los modelos exponen accidentalmente datos introducidos por sus usuarios, según reportó la BBC. Algunos proveedores utilizan los datos para mejorar sus modelos a menos que el usuario opte explícitamente por no hacerlo, mientras que otros prometen no usar información médica para entrenamiento. Sin embargo, el entrenamiento es solo una parte del rompecabezas de la privacidad.
Los servicios pueden compartir datos con terceros sin que los usuarios sean plenamente conscientes. La información personal de salud puede terminar en manos de un agregador de datos, una empresa intermediaria que se sitúa entre el proveedor del modelo y el sistema sanitario del paciente. También puede compartirse con anunciantes, ya sea directamente o a través de estos agregadores, aunque por lo general se anonimiza antes de su uso. No obstante, la anonimización no elimina por completo todos los riesgos, y la naturaleza excepcionalmente sensible de los datos de salud hace que cualquier exposición sea preocupante.
El peligro de las brechas de datos y el fraude de identidad médica
El problema se agrava cuando los datos sensibles atraviesan múltiples organizaciones, porque aumenta la probabilidad de que sean expuestos a ciberdelincuentes. Legisladores estadounidenses han identificado pérdidas por valor de 21.000 millones de dólares vinculadas a un puñado de filtraciones en empresas de corretaje de datos. Los datos de salud son especialmente lucrativos para los defraudadores por varias razones: mantienen su valor durante largos períodos de tiempo, ya que no pueden reemplazarse ni reemitirse como un número de tarjeta de crédito; pueden incluir información de seguros con la que presentar reclamaciones falsas o recibir servicios médicos a nombre de la víctima; y pueden utilizarse para chantajear al titular.
Cuantas más empresas poseen estos datos, más oportunidades tienen los hackers de comprometerlas y robarlos. El desafío es que la mayoría de las herramientas de inteligencia artificial para la salud no están reguladas por la normativa HIPAA en Estados Unidos, porque se clasifican como servicios de consumo y no como servicios de nivel empresarial. Esto significa que los proveedores pueden no estar sujetos al estricto régimen de protección de datos que un paciente esperaría de un profesional o una institución sanitaria. En España y América Latina, la situación es similar: la mayoría de estos chatbots operan bajo términos de servicio genéricos que no garantizan el mismo nivel de confidencialidad que la legislación sanitaria local.
Cómo protegerse al usar chatbots de inteligencia artificial para consultas de salud
Frente a este panorama, los usuarios pueden adoptar medidas concretas para minimizar su exposición a los riesgos. La primera recomendación es evitar los chatbots de propósito general y optar por aquellos diseñados específicamente para responder preguntas relacionadas con la salud. Antes de usar cualquier servicio, es fundamental revisar cómo explica la herramienta el manejo de los datos: si utiliza las consultas para entrenamiento, si comparte información con terceros y si está cubierta por HIPAA o un régimen de privacidad equivalente en el país del usuario.
No se debe confiar ciegamente en las respuestas del chatbot a menos que incluya enlaces de citas que permitan verificar la información. E incluso con citas, es recomendable contrastar siempre con un profesional médico o con sitios web oficiales como el NHS en Reino Unido, MedlinePlus en Estados Unidos o los equivalentes en España y América Latina. Un chatbot puede ser útil para preparar preguntas para el médico o para entender un término médico desconocido, pero nunca debe sustituir una consulta profesional.
Para proteger la privacidad, los expertos recomiendan seguir estas pautas:
- Nunca compartir ni subir documentos médicos, resultados de laboratorio u otros documentos sensibles a una herramienta de inteligencia artificial a menos que se comprenda exactamente cómo maneja esos datos.
- Evitar introducir nombres, direcciones, datos de seguros, números de paciente u otros identificadores personales.
- Asegurarse de que las funciones de entrenamiento e historial de chat estén desactivadas en la configuración de la herramienta.
- Compartir únicamente la información mínima necesaria para la tarea que se desea realizar.
- Asumir que todo lo que se escribe podría ser retenido o expuesto, y ajustar las consultas en consecuencia.
Es importante recordar que los datos de salud no son como un número de tarjeta de crédito que puede congelarse mientras se reemplazan y reexpiden los detalles. Son datos que acompañan a la persona durante toda su vida, y una vez compartidos con una herramienta de inteligencia artificial, pueden convertirse en un registro digital permanente.
El equilibrio entre utilidad y precaución en la era de la salud aumentada
Los chatbots de inteligencia artificial generativa ofrecen un valor innegable como herramientas de apoyo para quienes buscan información preliminar sobre su salud o necesitan ayuda para formular preguntas más precisas antes de una consulta médica. Sin embargo, existe una diferencia fundamental entre usar la inteligencia artificial para prepararse para una atención sanitaria y utilizarla como sustituto de esa atención. Un estudio publicado en Nature Medicine por la Universidad de Oxford demuestra que, hoy por hoy, los grandes modelos de lenguaje no están preparados para diagnosticar ni para evaluar la urgencia de los síntomas, y que los pacientes no cuentan con las herramientas cognitivas necesarias para filtrar la información errónea que estos sistemas generan.
La presión sobre los sistemas sanitarios, el atractivo de la inmediatez y la confianza que inspiran las respuestas firmes de los chatbots seguirán impulsando su uso para consultas de salud. Pero los riesgos documentados —desde diagnósticos erróneos hasta la exposición de datos personales a redes de fraude— exigen que los usuarios adopten una postura informada y cautelosa. La tecnología avanza, pero la prudencia sigue siendo la mejor aliada del paciente en un entorno digital donde la línea entre la ayuda y el peligro es más delgada de lo que parece.
