El auge de la inteligencia artificial ha tocado todas las industrias, desde la salud hasta el marketing, y ahora la educación es el nuevo frente de disrupción. Gobiernos, colegios y padres ven en los tutores de IA una promesa de ahorro y mejora del aprendizaje, pero la realidad es más compleja. Detrás de la fachada de eficiencia, los tutores de IA exponen a niños a riesgos de seguridad y privacidad que muchos padres no anticipan, desde la recolección masiva de datos hasta la vulnerabilidad frente a ataques cibernéticos. Mientras el mercado crece a un ritmo vertiginoso —de 2.000 millones de dólares en 2025 a más de 17.700 millones proyectados para 2033—, la calidad y las salvaguardas varían enormemente entre productos. Este artículo analiza qué debe revisar un adulto antes de poner una herramienta de este tipo en manos de un menor.
El mercado de tutores de IA se expande a gran velocidad: de 2.000 millones a 17.700 millones en ocho años
El segmento de herramientas educativas impulsadas por IA está en plena ebullición. Según una estimación del sector, el mercado pasará de aproximadamente 2.000 millones de dólares en 2025 a más de 17.700 millones en 2033. El gobierno británico ya ha invitado a empresas de tecnología educativa e IA a diseñar herramientas para las aulas, con la promesa de que hasta 450.000 alumnos desfavorecidos podrían beneficiarse. La idea es que la inteligencia artificial ayude a familias que no pueden costear tutores privados. En Estados Unidos, la situación varía según el distrito escolar, pero la tendencia general es la misma: empresas de IA y tecnología están introduciendo herramientas especializadas para estudiantes y docentes.
La oferta se ha diversificado rápidamente. Bajo el término genérico «tutor de IA» se agrupan productos muy distintos. En el extremo inferior del mercado se encuentran simples chatbots y asistentes genéricos con una etiqueta educativa. Pueden resumir y responder preguntas generales, pero no aportan mucho más valor. De hecho, pueden terminar respondiendo en lugar del usuario, sin fomentar el aprendizaje activo. Un escalón más arriba están los chatbots diseñados específicamente para la enseñanza. Estos están programados para no dar respuestas directas, sino para ofrecer una tutoría de estilo socrático que guíe al estudiante hacia la solución. En el nivel más avanzado se encuentran los Sistemas de Tutoría Inteligente (ITS por sus siglas en inglés), que ofrecen un currículo predeterminado diseñado por humanos. Estos sistemas «andanielan» el aprendizaje: proporcionan pistas cuando el estudiante no está seguro de una respuesta y dificultan enormemente la aparición de contenido inapropiado.
¿Realmente funcionan los tutores de IA? La evidencia es contradictoria
La pregunta clave para cualquier padre o educador es si estos sistemas cumplen lo que prometen. Las pruebas disponibles son alentadoras en ciertos contextos, pero no respaldan afirmaciones generalizadas de que los tutores de IA mejoran el aprendizaje en todos los entornos. Existe evidencia de que, en algunos casos, la tecnología puede estar empeorando las cosas. Un estudio reciente en el Reino Unido reveló que dos tercios de los docentes ya habían observado un deterioro en las habilidades de escritura y resolución de problemas entre los estudiantes debido al uso de herramientas de IA. Otra investigación identificó «una correlación negativa significativa entre el uso frecuente de herramientas de IA y las capacidades de pensamiento crítico». El informe señala que el uso de IA para la tutoría de niños «puede disminuir inadvertidamente el compromiso de los usuarios con procesos de pensamiento profundos y reflexivos».
Este hallazgo apunta a uno de los mayores riesgos evolutivos asociados con alentar a los niños a usar herramientas de IA. Si el asistente proporciona respuestas demasiado rápido, o al menos facilita en exceso el proceso de aprendizaje, el estudiante puede desarrollar una pereza cognitiva perjudicial a largo plazo. La capacidad de pensar críticamente, de enfrentarse a un problema sin ayuda inmediata y de persistir ante la frustración son habilidades que la IA, si se usa mal, puede erosionar.
Riesgos psicosociales: confianza excesiva, dependencia emocional y falta de empatía
Más allá de lo cognitivo, existen riesgos psicosociales significativos. Los niños pueden depositar una confianza excesiva en tutores de IA que suenan convincentes y seguros, y caer en alucinaciones —errores graves que la IA presenta como hechos— con mayor facilidad que los adultos. Incluso pueden llegar a tratar a estos sistemas como cuasi-amigos, lo que podría frenar los vínculos emocionales con sus grupos de pares. La IA también es un profesor deficiente en muchos aspectos. Puede conocer la «respuesta» a una pregunta, pero carece de la capacidad de manejar a un niño frustrado con la experiencia de aprendizaje. La empatía y las habilidades blandas de un docente humano son muy difíciles, si no imposibles, de imitar por una máquina.
Una pregunta pertinente para cualquier padre es cómo la herramienta logra que el niño se involucre. ¿Le pide que muestre su razonamiento, que intente un problema y que responda a la retroalimentación? ¿O simplemente completa la tarea más rápido mientras hace silenciosamente la mayor parte del trabajo mental?
Seguridad y privacidad: los riesgos que van más allá del aprendizaje
La preocupación por la privacidad y la seguridad es quizás la más subestimada. Para los usuarios de chatbots sin restricciones y herramientas similares, existe el riesgo de que las conversaciones deriven hacia contenido inapropiado para la edad. Pero hay más. Un tutor de IA puede recopilar mucho más que las respuestas del niño. Dependiendo del producto, puede retener indicaciones, trabajos escolares, datos de rendimiento, intereses, información de la cuenta, identificadores del dispositivo y grabaciones de voz. Todo lo que se comparte con el modelo puede usarse para fines de entrenamiento y, potencialmente, filtrarse a otros usuarios. También puede compartirse con anunciantes y otros terceros.
Esto no solo representa un riesgo de privacidad; puede convertirse en un problema de seguridad en toda regla si el proveedor del modelo o uno de esos terceros de confianza que tienen los datos del niño sufre una brecha. Si se trata de una herramienta activada por voz, el proveedor tendrá datos biométricos del menor, que serían muy valiosos si los hackers lograran vincularlos con su identidad.
Preguntas clave que todo padre debe hacerse antes de permitir que un niño use un tutor de IA
Esta realidad plantea varias preguntas que los padres deben responder antes de entregar una herramienta a sus hijos:
- ¿El niño tiene la edad suficiente para usar el servicio según sus términos y condiciones?
- ¿Qué información se recopila, por qué y durante cuánto tiempo?
- ¿Las conversaciones se utilizan para entrenar o mejorar los modelos de IA?
- ¿Puede un padre acceder y eliminar la información del niño?
- ¿Qué proveedores de servicios u otras entidades reciben los datos?
- ¿El producto muestra publicidad o utiliza datos para creación de perfiles?
El riesgo de inyección de prompts: cuando la IA es engañada para saltarse sus barreras
Por último, existe el peligro de la inyección de prompts. Esto ocurre cuando se engaña a las herramientas de IA para que ignoren sus salvaguardas de seguridad y muestren contenido no confiable. Un niño puede ser lo suficientemente hábil para hacer esto, accediendo así a material inapropiado para su edad. O un hacker puede ocultar instrucciones en páginas web legítimas, de modo que cuando la IA interactúe con esa página, lleve al usuario a un sitio de phishing o realice alguna otra acción maliciosa. Este vector de ataque es particularmente insidioso porque explota la propia naturaleza de la IA: su capacidad para seguir instrucciones, incluso cuando esas instrucciones están ocultas.
¿Qué pueden hacer los padres? Medidas concretas para proteger a los niños
Hay mucho que los padres pueden considerar antes de introducir a sus hijos en el mundo de los tutores de IA. Lo primero es entender la diferencia entre un simple copiloto y un sistema de tutoría inteligente dedicado. Se deben buscar herramientas que guíen el viaje de aprendizaje del niño, en lugar de proporcionar respuestas simples. A continuación, una serie de recomendaciones prácticas:
- Elegir herramientas que cumplan con las regulaciones de protección de datos (como COPPA, CCPA, GDPR), lo que significa que no compartirán los datos del niño con el motor de IA subyacente sin garantías.
- Optar por una herramienta aprobada por la escuela del niño o respaldada por evidencia educativa.
- Leer la información de privacidad, especialmente las partes que tratan sobre el entrenamiento de modelos, la retención de datos, la publicidad y los proveedores externos.
- Usar la herramienta junto con el niño. Por buena que sea la IA, el menor probablemente se beneficiará más de aprender acompañado de un humano.
- Enseñar a los niños a no compartir información personal con la IA y a identificar las alucinaciones. Esta habilidad les será útil cuando usen IA más adelante en la vida.
- Hablar con los hijos para saber cómo se sienten respecto a la IA, y asegurarse de que entienden que la máquina no tiene capacidad de sentir o emocionarse.
- Explicar que el tutor puede sonar seguro incluso cuando está equivocado. Las respuestas importantes deben verificarse con los maestros, los libros de texto u otras fuentes confiables.
- Activar cualquier configuración de edad apropiada si está disponible.
- Limitar el «tiempo de IA» por día, de la misma manera que se limitaría el tiempo de pantalla.
- Revisar el historial de prompts del niño para asegurarse de que está usando la herramienta correctamente y de manera segura.
La tecnología madura a un ritmo acelerado y constantemente aparecen nuevas ofertas en el mercado. Por lo tanto, si está interesado en probar tutores de IA, es fundamental mantenerse actualizado sobre lo que hay disponible. Y recuerde: ninguna herramienta digital, por avanzada que sea, sustituye el valor del aprendizaje offline tradicional, la interacción humana y el desarrollo de habilidades fundamentales como el pensamiento crítico y la empatía.
En un ecosistema donde los tutores de IA exponen a niños a riesgos de seguridad y privacidad que aún no están completamente regulados, la responsabilidad recae en los padres y educadores. La promesa de la IA educativa es real, pero solo si se implementa con transparencia, controles robustos y una supervisión activa. De lo contrario, el costo de la comodidad podría ser la seguridad y el desarrollo integral de la próxima generación.
